Studie: KI-Begleiter könnten soziale Ungleichheit verschärfen

Neue Forschung der Singapore Management University (SMU) und der Duke-NUS Medical School bietet eine kritische Untersuchung der zunehmenden Verbreitung von KI-Begleitern. Die Studie argumentiert, dass die entscheidende Frage nicht ist, ob diese Technologien vorteilhaft oder schädlich sind, sondern vielmehr, wer davon profitiert, wer am stärksten gefährdet ist und wie gerechte Ergebnisse sichergestellt werden können.

Veröffentlicht in Nature Human Behaviour, stellt die Forschung einen neuartigen Rahmen vor, um zu verstehen, wie KI-Begleiter bestehende soziale Ungleichheiten verschärfen könnten. Anstatt KI-Begleiter durch eine einfache Dichotomie von gut oder schlecht zu betrachten, analysierten die Forscher, wie Unterschiede in der sozialen Unterstützung der Nutzer, im Technologiedesign und in der Governance zu ungleichen Ergebnissen führen können. Sie schlagen auch praktische Empfehlungen für politische Entscheidungsträger, Entwickler und Nutzer vor.

Die Studie hebt eine "Reich-werden-reicher"-Dynamik in menschlichen Beziehungen hervor, bei der Personen mit starken sozialen Netzwerken KI-Begleiter zur Ergänzung bestehender Verbindungen nutzen könnten. Umgekehrt könnten diejenigen, die einsam oder sozial isoliert sind, sich auf KI-Begleiter als Ersatz für menschliche Interaktion verlassen, was im Laufe der Zeit zu einer allmählichen Erosion sozialer Fähigkeiten führen könnte.

Die Forschung adaptierte einen Rahmen basierend auf dem "Schweizer-Käse-Modell", um das Auftreten von Risiken zu erklären: Fehler in mehreren Schutzschichten, einschließlich der KI-Kompetenz der Nutzer, der sozialen Unterstützung, des Plattformdesigns und der Regulierung, können gefährdete Nutzer stärkeren Risiken aussetzen. Die Governance wurde als die größte Lücke unter den vier untersuchten Schichten identifiziert, da KI-Begleiter in vielen Ländern in einer regulatorischen Grauzone verbleiben.

Forscher empfehlen, KI-Begleiter als gesundheitsbezogene Technologien zu behandeln, was stärkere Schutzmaßnahmen ermöglicht, wie z. B. altersgerechte Designanforderungen, Transparenz über die Interaktion mit KI, Einschränkungen manipulierender Funktionen und klarere Standards für Daten-Governance und Krisenmanagement. Dies ist angesichts der weit verbreiteten Technologieakzeptanz in Singapur besonders relevant.