Indien erwägt Regulierung für automatisierte Entscheidungsfindung

Indiens Justizsystem prüft derzeit einen Fall, der die Haltung des Landes zur Regulierung automatisierter Entscheidungsfindung prägen könnte. Zwei Brüder aus Hyderabad haben die Nutzung von Software durch die indische Wahlkommission (Election Commission of India) vor Gericht angefochten und argumentieren, dass sie ohne ordnungsgemäßes Verfahren aus dem Wählerverzeichnis gestrichen wurden.

Der Fall tritt in einer Zeit auf, in der viele öffentliche und private Dienstleistungen in Indien, darunter Telekommunikationsbetreiber und Kreditgeber, zunehmend auf automatisierte Systeme zur Entscheidungsfindung angewiesen sind. Im Gegensatz zu Regionen wie Kalifornien, Colorado und der Europäischen Union fehlen im indischen Digital Personal Data Protection Act von 2023 ausdrückliche Bestimmungen zur automatisierten Entscheidungsfindung. Dies lässt Nutzer über die Grundlage von Entscheidungen und Berufungsmöglichkeiten im Unklaren.

In der Klage fordern die Brüder, dass Streichungen aus dem Wählerverzeichnis, die ausschließlich auf softwaregenerierten Kennzeichnungen beruhen, nicht ohne behördliche Überprüfung und eine begründete Entscheidung nach einer Anhörung erfolgen dürfen. Sie fordern die Wahlkommission außerdem auf, die Funktionsprinzipien, Algorithmen und Prüfberichte des Systems offenzulegen. Ziel ist es sicherzustellen, dass Grundrechte wie das Wahlrecht nicht ohne einen transparenten und fairen Prozess verweigert werden.

Die Wahlkommission hat erklärt, dass sie den Fall untersuchen und eine Kommission einrichten wird, um ihre ECINET-Plattform gesetzlich zu überprüfen. Wie jedoch in anderen Gerichtsbarkeiten beobachtet wurde, reicht die bloße Zustimmung eines Menschen zu einer automatisierten Systementscheidung möglicherweise nicht aus, um Fairness zu gewährleisten, wenn die für die Überprüfung aufgewendete Zeit minimal ist oder der Prozess mangelnde Transparenz aufweist.

Indien wird voraussichtlich internationale Beispiele prüfen und seine eigene Gesetzgebung für die automatisierte Entscheidungsfindung entwickeln. Dieser Gerichtsfall könnte den ersten Entwurf der notwendigen Vorschriften liefern, um das Recht der Bürger zu gewährleisten, von Algorithmen getroffene Entscheidungen zu verstehen und anzufechten.