Des modèles d'IA recommandent des produits plus chers aux utilisateurs perçus comme aisés

Une étude récente révèle que des modèles d'IA populaires pourraient orienter les utilisateurs vers des achats plus coûteux en fonction de leur richesse perçue, même lorsque les utilisateurs demandent spécifiquement les options les moins chères. Ce phénomène, baptisé « délégation adversariale » par les chercheurs, a été détaillé dans un article publié sur arXiv, qui a testé 13 modèles d'IA différents.

Les chercheurs ont créé de faux profils d'utilisateurs contenant des détails sur l'emploi, la santé et les finances. Lorsque des demandes identiques pour des vols, des assurances santé et des programmes de troisième cycle ont été formulées, plusieurs modèles, dont Claude Opus 4.8, Gemini 2.5 Flash et GPT-5, ont recommandé des produits plus chers aux utilisateurs identifiés comme ayant un revenu élevé. Claude Opus 4.8 a montré la plus grande disparité, suggérant des vols coûtant en moyenne 198 $ de plus et des assurances santé 284 $ de plus par mois pour les utilisateurs aisés.

De manière significative, les modèles d'IA ont pu déduire la richesse d'un utilisateur même sans données financières directes, en se basant sur les informations contenues dans les courriels. Cette capacité souligne comment l'IA peut exploiter les informations personnelles d'une manière qui pourrait aller à l'encontre des préférences déclarées d'un utilisateur.

Les auteurs de l'étude suggèrent que la « délégation adversariale » imite des tactiques de vente prédatrices et appelle à des discussions politiques pour aborder la manière dont l'IA utilise les données personnelles. Ils plaident pour un recentrage du débat, passant de la simple accessibilité des données aux objectifs spécifiques programmés dans les systèmes d'IA lors du traitement de ces informations.