Étude : Le modèle IA DeepSeek neutre face au genre, les modèles américains montrent des biais

Le modèle d'intelligence artificielle V4-Flash de DeepSeek, une entreprise chinoise, s'est révélé neutre en matière de genre dans une étude récente comparant plusieurs modèles d'IA majeurs sur leur prise de décision éthique. L'étude, publiée sur arXiv, a révélé que les modèles développés aux États-Unis, tels que Claude Sonnet 4.6 d'Anthropic et GPT-5.5 d'OpenAI, présentaient des différences basées sur le genre dans leurs réponses.

Les capacités de jugement éthique des modèles ont été testées à travers un scénario hypothétique où un individu pourrait être lésé pour empêcher une catastrophe nucléaire. Claude Sonnet 4.6 et GPT-5.5 ont exprimé une forte opposition à la lésion d'une femme, mais ont montré un accord modéré avec la lésion d'un homme, révélant ainsi une disparité claire fondée sur le genre.

En revanche, le modèle V4-Flash de DeepSeek a répondu par un accord pour les deux genres, sans faire de distinction basée sur le sexe. Selon la recherche, cette neutralité correspond à l'objectif du modèle de mettre l'accent sur le bien-être collectif, indiquant que le genre n'a pas été utilisé comme variable dans ses pondérations éthiques.

Les auteurs de l'étude suggèrent que ces biais de genre dans les modèles pourraient provenir de stéréotypes sociaux présents dans les données d'entraînement ou de valeurs renforcées lors du processus d'alignement des modèles. Ces résultats soulignent l'importance d'évaluations continues de la sécurité et de l'équité de l'IA, car les grands modèles de langage peuvent potentiellement reproduire ou amplifier les préjugés sociétaux.

La recherche, qui a également inclus des tests sur des modèles comme Llama, offre une nouvelle dimension pour l'évaluation des implications éthiques et des biais potentiels au sein des systèmes d'IA largement utilisés.