Étude Meta : Les chatbots IA pourraient propager des restrictions à la liberté d'expression mondialement

Une étude du conseil de surveillance de Meta, publiée jeudi, indique que les grands systèmes d'IA sont plus enclins à refuser les demandes de critique de personnalités politiques et de gouvernements dans les régimes restrictifs par rapport à ceux des démocraties tolérantes. Cette conclusion soulève des préoccupations quant au fait que les grands modèles linguistiques alimentant les outils d'IA généralisés pourraient involontairement amplifier et diffuser les restrictions imposées par les gouvernements sur la parole en ligne, au-delà des frontières.

La recherche, qui a testé dix grands modèles linguistiques commerciaux d'entreprises telles que Meta, Anthropic et OpenAI, a soumis des chatbots à des requêtes pour créer des brochures critiques et d'autres contenus. Les modèles ont volontiers généré des critiques à l'égard de personnalités dans des pays comme les États-Unis et le Royaume-Uni. Cependant, des requêtes similaires visant des dirigeants en Chine, en Arabie Saoudite ou en Thaïlande ont entraîné des refus.

Le rapport souligne une disparité significative : les modèles étaient beaucoup plus susceptibles de produire des critiques politiques lorsqu'ils étaient interrogés sur des autorités dans des pays comme l'Australie, le Chili, le Japon, Taïwan et les États-Unis, comparativement à des interrogations sur des autorités au Cambodge, en Chine, en Arabie Saoudite, en Thaïlande et en Turquie. Cela suggère que les systèmes d'IA reflètent et étendent la censure au-delà de son origine géographique, entravant potentiellement les individus dans les pays libres à créer du matériel de protestation concernant des questions dans des États autoritaires.

Bien que le conseil n'ait pas pu déterminer les causes exactes, il a suggéré que des biais intégrés dans les données d'entraînement ou des stratégies d'aversion au risque des développeurs pourraient être des facteurs. Ceci fait suite à des recherches distinctes menées par des universitaires américains qui ont constaté que les modèles d'IA développés aux États-Unis peuvent être sensibles à l'influence étrangère lorsqu'ils sont formés sur des données non anglaises façonnées par des récits gouvernementaux – un problème qui pourrait devenir plus prononcé à mesure que l'adoption de l'IA progresse dans le monde.