KI-Modelle wie ChatGPT spiegeln westliche Moralwerte wider, zeigt Studie
Eine neue Studie im Fachjournal PNAS deckt auf, dass große Sprachmodelle westliche Moralwerte priorisieren und die moralischen Normen nicht-westlicher Bevölkerungen systematisch falsch einschätzen.
Große Sprachmodelle, einschließlich von OpenAI's ChatGPT, neigen dazu, systematisch westliche moralische Werte zu priorisieren und die moralischen Normen von Bevölkerungen außerhalb der westlichen Welt falsch darzustellen. Dies geht aus einer neuen Studie hervor, die in den Proceedings of the National Academy of Sciences (PNAS) veröffentlicht wurde.
Die Untersuchung verglich die Antworten von OpenAI's GPT-3.5, GPT-4 und GPT-4o Modellen mit einer globalen Stichprobe von über 90.000 Menschen mittels eines Fragebogens zu moralischen Grundlagen. Dieser Fragebogen untersuchte sechs moralische Werte: Fürsorge, Fairness, Loyalität, Autorität, Reinheit und Proportionalität.
Wenn die KI-Modelle aufgefordert wurden, als durchschnittlicher Bürger aus 48 verschiedenen Nationen zu antworten, stimmten ihre Antworten durchweg stärker mit westlichen moralischen Mustern überein. Sie betonten Werte wie Fürsorge, während sie Werten wie Reinheit, die in nicht-westlichen Gesellschaften oft von größerer Bedeutung sind, weniger Gewicht beimaßen. Die Modelle überschätzten zudem die moralischen Anliegen westlicher Nationen und unterschätzten die vieler nicht-westlicher Länder.
Die Forscher warnen, dass diese kulturelle Voreingenommenheit ein erhebliches Risiko darstellt, da generative KI zunehmend in verschiedenen Sektoren, einschließlich Bildung, Therapie und Politikgestaltung, eingesetzt wird. Wenn KI-Modelle von einer universellen Einhaltung westlicher Werte ausgehen, könnten sie bestehende kulturelle blinde Flecken aufrechterhalten und kritische Fehltritte mit realen Konsequenzen verursachen, was potenziell neue Ungleichheiten schafft.