Étude : Les compagnons IA pourraient accentuer les inégalités sociales

Une nouvelle étude menée par la Singapore Management University (SMU) et la Duke-NUS Medical School offre un examen critique de l'adoption croissante des compagnons IA. La recherche soutient que la question pertinente n'est pas de savoir si ces technologies sont bénéfiques ou nuisibles, mais plutôt qui en profite, qui est le plus à risque, et comment assurer des résultats équitables.

Publiée dans Nature Human Behaviour, la recherche introduit un cadre novateur pour comprendre comment les compagnons IA pourraient exacerber les inégalités sociales existantes. Plutôt que de considérer les compagnons IA sous un simple angle dichotomique de bien ou de mal, les chercheurs ont analysé comment les disparités dans le soutien social des utilisateurs, la conception technologique et la gouvernance peuvent conduire à des résultats inégaux. Ils proposent également des recommandations pratiques pour les décideurs, les développeurs et les utilisateurs.

L'étude met en lumière une dynamique de "les riches s'enrichissent" dans les relations humaines, où les individus dotés de réseaux sociaux solides peuvent utiliser les compagnons IA pour compléter leurs liens existants. Inversement, ceux qui sont solitaires ou socialement isolés peuvent se fier aux compagnons IA comme substitut à l'interaction humaine, ce qui pourrait entraîner une érosion progressive des compétences sociales au fil du temps.

La recherche a adapté un cadre basé sur le "modèle du fromage suisse" pour expliquer l'émergence des risques : des défaillances dans plusieurs couches de protection, y compris la littératie numérique de l'utilisateur, le soutien social, la conception de la plateforme et la réglementation, peuvent exposer davantage les utilisateurs vulnérables. La gouvernance a été identifiée comme le principal manque parmi les quatre couches examinées, car les compagnons IA restent dans une zone grise réglementaire dans de nombreux pays.

Les chercheurs recommandent que les compagnons IA soient traités comme des technologies liées à la santé, permettant des protections plus solides telles que des exigences de conception adaptées à l'âge, la transparence concernant l'interaction avec l'IA, des limitations sur les fonctionnalités manipulatoires et des normes plus claires en matière de gouvernance des données et de réponse aux crises. Ceci est particulièrement pertinent à Singapour, compte tenu de son adoption technologique généralisée.