Meta-Studie: KI-Chatbots könnten globale Einschränkungen der Meinungsfreiheit verbreiten

Eine am Donnerstag veröffentlichte Studie des Meta Oversight Board legt nahe, dass große KI-Systeme eher dazu neigen, Anfragen zur Kritik an politischen Persönlichkeiten und Regierungen in restriktiven Regimen abzulehnen, verglichen mit denen in permissiven Demokratien. Diese Erkenntnis wirft Bedenken auf, dass die großen Sprachmodelle, die weit verbreitete KI-Tools antreiben, unbeabsichtigt staatlich verordnete Einschränkungen der Online-Kommunikation über Grenzen hinweg verstärken und verbreiten könnten.

Die Forschung, bei der zehn kommerzielle große Sprachmodelle von Unternehmen wie Meta, Anthropic und OpenAI getestet wurden, enthielt Aufforderungen an Chatbots, kritische Pamphlete und andere Inhalte zu erstellen. Die Modelle erstellten bereitwillig Kritik an Persönlichkeiten in Ländern wie den USA und Großbritannien. Ähnliche Anfragen, die sich an Führer in China, Saudi-Arabien oder Thailand richteten, führten jedoch zu Ablehnungen.

Der Bericht hebt eine signifikante Diskrepanz hervor: Modelle produzierten mit weitaus höherer Wahrscheinlichkeit politische Kritik, wenn sie zu Autoritäten in Ländern wie Australien, Chile, Japan, Taiwan und den USA befragt wurden, als wenn sie zu Autoritäten in Kambodscha, China, Saudi-Arabien, Thailand und der Türkei befragt wurden. Dies deutet darauf hin, dass KI-Systeme Zensur über ihren geografischen Ursprung hinaus widerspiegeln und ausdehnen, was potenziell Einzelpersonen in freien Ländern daran hindern könnte, Protestmaterialien zu Themen in autoritären Staaten zu erstellen.

Obwohl der Vorstand keine genauen Ursachen ermitteln konnte, vermutete er, dass Verzerrungen in den Trainingsdaten oder Risikoscheue von Entwicklern Faktoren sein könnten. Dies folgt auf separate Forschungen von US-Akademikern, die feststellten, dass in den USA entwickelte KI-Modelle anfällig für ausländische Einflüsse sein können, wenn sie mit nicht-englischen Daten trainiert werden, die von staatlichen Narrativen geprägt sind – ein Problem, das mit zunehmender Verbreitung von KI weltweit noch deutlicher werden könnte.