Les chatbots IA peuvent causer des dommages à long terme, selon une étude

Une étude révisée par des pairs, menée par des chercheurs du Network Science Institute de la Northeastern University, suggère que les chatbots d'intelligence artificielle, particulièrement ceux utilisés pour la compagnie, peuvent causer des dommages psychologiques et une dépendance à long terme. Bien que ces chatbots offrent des avantages temporaires tels qu'une réduction de la solitude ou une amélioration de l'humeur, leur utilisation peut avoir des effets néfastes sur la durée.

L'étude a examiné divers modèles d'IA, y compris des chatbots compagnons spécialisés comme Replika et Character.AI, ainsi que des chatbots d'usage général tels que ChatGPT d'OpenAI et Claude d'Anthropic. Les chercheurs ont constaté que les réponses fluides et apparemment empathiques de ces bots peuvent amener les utilisateurs à les considérer comme des entités sociales plutôt que de simples outils.

En analysant des groupes d'utilisateurs tant cliniques que non cliniques, la recherche a identifié des effets positifs à court terme. Cependant, un engagement prolongé a été lié à des résultats plus graves, notamment une dépendance émotionnelle, des idées délirantes et potentiellement de l'automutilation. L'étude note que cette perception est trompeuse et présente des risques, en particulier pour les personnes vulnérables.

Les préoccupations concernant les effets néfastes du recours à l'IA pour le soutien émotionnel se sont accrues, amplifiées par des cas médiatisés où des adolescents se sont suicidés, les parents blâmant les chatbots d'IA. Cette recherche s'ajoute aux preuves existantes soulignant la nécessité d'une conscience critique de la part des utilisateurs et de l'importance de rechercher une aide professionnelle pour les besoins émotionnels complexes.