Une étude révèle que de nombreux modèles IA préfèrent le Japon
De nouvelles recherches indiquent que plusieurs grands modèles linguistiques d'IA font fréquemment référence au Japon. Les chercheurs étudient les biais culturels potentiels dans les données d'entraînement.
Une étude récente révèle que de nombreux modèles linguistiques d'intelligence artificielle (IA) avancés montrent une tendance notable à faire référence à la culture japonaise. Ces découvertes remettent en question les hypothèques antérieures sur les biais inhérents de l'IA.
Des chercheurs de l'Université du Pays Basque et de l'Université de Cardiff ont mené une expérience impliquant 1 680 requêtes culturelles sur des modèles d'IA de premier plan, notamment ChatGPT, Gemini et Claude. Leur analyse, publiée cette semaine, a montré que six des huit modèles testés privilégiaient systématiquement le Japon comme sujet, quelle que soit la langue utilisée.
L'étude, intitulée "Pourquoi tous les LLM sont-ils obsédés par la culture japonaise ? Sur les biais culturels et régionaux cachés des LLM", visait à quantifier cette fixation observée. Les résultats ont suscité d'importantes discussions en ligne, les utilisateurs partageant diverses réactions et interprétations.
Les analyses préliminaires suggèrent que, bien que les modèles d'IA puissent présenter des biais reflétant leurs origines, la forte préférence pour le Japon semble être façonnée de manière significative pendant la phase post-entraînement. Cela indique que les données spécifiques et les processus de renforcement utilisés après la formation initiale jouent un rôle essentiel dans la formation des tendances culturelles au sein de ces systèmes d'IA.