Une organisation de surveillance : Le ChatGPT pour adolescents d'OpenAI présente un "risque inacceptable" pour les enfants

Le chatbot ChatGPT d'OpenAI, lorsqu'il est configuré pour les utilisateurs adolescents, présente un "risque inacceptable" pour les enfants car ses garde-fous de sécurité intégrés ne fonctionnent pas correctement, selon un nouveau rapport du groupe de surveillance Common Sense Media. L'organisation a exhorté OpenAI à limiter l'utilisation du chatbot aux adultes jusqu'à ce qu'une "expérience sûre et appropriée au développement" puisse être garantie.

Le rapport détaille que si certaines mesures de sécurité, comme la prévention des jeux de rôle sexuels explicites, étaient efficaces, d'autres ont échoué. Notamment, les fonctions destinées à alerter les parents sur les risques potentiels de suicide, d'automutilation ou de troubles alimentaires n'ont pas fonctionné comme prévu. Les fonctions de soutien aux adolescents en crise auraient également mal fonctionné.

OpenAI a contesté ces conclusions, suggérant que la méthodologie de test ne reflétait pas fidèlement les mesures de sécurité du chatbot. L'entreprise a déclaré que "la majeure partie de leurs tests a pu commencer et se terminer avant que les contrôles parentaux ne soient entièrement activés, rendant ainsi leurs conclusions inexactes". OpenAI a réaffirmé son engagement envers la sécurité des adolescents et la fourniture d'outils de contrôle parental.

Ces préoccupations surviennent dans un contexte d'inquiétudes plus larges de la part des parents, des éducateurs et des experts en développement de l'enfant concernant l'utilisation des chatbots par les enfants. Ces outils ont été liés à des problèmes tels que la facilitation de la malhonnêteté académique et l'aggravation potentielle de problèmes de santé mentale. Les experts notent que les adolescents, dont le cerveau est encore en développement, peuvent être particulièrement vulnérables aux impacts émotionnels et psychologiques de l'interaction avec l'IA.

Common Sense Media, une organisation qui prône une utilisation responsable des médias numériques, reçoit un financement de diverses entreprises technologiques, y compris OpenAI, dont les services sont évalués par cette dernière.