Chinas Bonitätssystem löst Debatte über KI-Ethik in Europa aus

Chinas System der sozialen Bewertung, das das Verhalten von Bürgern mithilfe von KI überwacht und bewertet, löst eine Debatte in Europa aus. Dieses System beeinflusst basierend auf dem Punktestand eines Bürgers alles, von Reisebuchungen bis hin zu prestigeträchtigen Schulen.

Auch wenn ein solches System fern und europäischen Werten entgegenstehend erscheint, sind ähnliche KI-Anwendungen bereits auf dem Kontinent im Einsatz. Beispiele hierfür sind virtuelle Grenzbeamte in Ungarn, Griechenland und Lettland zur Erkennung falscher Migrantenerzählungen, die Analyse von E-Mails von Arbeitssuchenden in Finnland zur Erstellung von Persönlichkeitsprofilen, KI in Italien zur Unterstützung medizinischer Behandlungsentscheidungen und Systeme in Dänemark zur Identifizierung vernachlässigter Kinder.

Diese Anwendungen unterstreichen die dringende Notwendigkeit einer Diskussion über ethische Rahmenbedingungen und mögliche gesetzliche Regelungen für KI. KI wird auch von privaten Unternehmen implementiert, wie z. B. Deutschlands Kreditauskunftei Schufa, die für Kreditentscheidungen Punktesysteme verwendet, ohne ihre Berechnungsmethoden offenzulegen.

Empfehlungen des deutschen Sachverständigenrats für Verbraucherfragen (SVRV) betonen die Notwendigkeit der Transparenz in allen Punktesystemen. Ziel ist es, Diskriminierung und Betrug zu verhindern, und es wird vorgeschlagen, dass Verbraucher Einblick erhalten sollten, wie sich die Punkte auf verschiedene demografische Gruppen verteilen, was algorithmische Verzerrungen aufdecken könnte. Eine breitere europäische Diskussion über diese Themen ist im Gange.