Des LLM comme ChatGPT privilégient les valeurs morales occidentales, selon une étude

Les grands modèles linguistiques, y compris ChatGPT d'OpenAI, ont tendance à privilégier systématiquement les valeurs morales occidentales, représentant mal les normes morales des populations extérieures au monde occidental, selon une nouvelle étude publiée dans les Proceedings of the National Academy of Sciences (PNAS).

L'étude a comparé les réponses des modèles GPT-3.5, GPT-4 et GPT-4o d'OpenAI à un échantillon mondial de plus de 90 000 humains à l'aide d'un questionnaire sur les fondements moraux. Ce questionnaire mesurait six valeurs morales : la sollicitude, l'équité, la loyauté, l'autorité, la pureté et la proportionnalité.

Lorsqu'ils étaient invités à répondre en tant que citoyen moyen de 48 nations différentes, les modèles d'IA s'alignaient systématiquement davantage sur les modèles moraux occidentaux. Ils mettaient l'accent sur des valeurs telles que la sollicitude, tout en accordant moins d'importance à des valeurs comme la pureté, qui sont souvent plus significatives dans les sociétés non occidentales. Les modèles surestimaient également les préoccupations morales des nations occidentales tout en sous-estimant celles de nombreux pays non occidentaux.

Les chercheurs avertissent que l'intégration croissante de l'IA générative dans divers secteurs, y compris l'éducation, la thérapie et l'élaboration des politiques, fait peser un risque important lié à ce biais culturel. Si les modèles d'IA supposent une adhésion universelle aux valeurs occidentales, ils pourraient perpétuer les angles morts culturels existants et entraîner des erreurs critiques aux conséquences réelles, créant potentiellement de nouvelles disparités.