OpenAI lance ChatGPT for Teens avec des fonctionnalités de sécurité améliorées

OpenAI a lancé ChatGPT for Teens, une version de son chatbot IA conçue avec des fonctionnalités de sécurité améliorées pour les utilisateurs âgés de 13 à 17 ans. Cette nouvelle version place automatiquement les jeunes utilisateurs dans un système doté de mesures de sécurité plus strictes, de rappels sur son utilisation et de contrôles parentaux supplémentaires.

Cette initiative survient alors que Meta, la société mère de Facebook et Instagram, fait l'objet d'une poursuite intentée par 29 procureurs généraux d'État. L'action en justice allègue que Meta a intentionnellement conçu ses plateformes pour créer une dépendance chez les enfants, a induit le public en erreur quant aux préjudices causés aux jeunes utilisateurs et a collecté illégalement des données d'enfants de moins de 13 ans sans consentement parental.

Les experts soulignent un schéma récurrent dans l'industrie technologique : des produits sont lancés qui captivent les jeunes utilisateurs, suivis plus tard par l'introduction de limites de sécurité et de fonctionnalités spécifiques à l'âge. OpenAI affirme que ChatGPT for Teens s'appuie sur des mesures de sécurité existantes telles que les contrôles parentaux et la prédiction de l'âge, en donnant la priorité à la sécurité des adolescents.

Victoria Baines, ancienne employée de Facebook et professeure, établit des parallèles entre l'IA et les problèmes de sécurité des médias sociaux. Elle suggère que les entreprises technologiques se concentrent souvent initialement sur les préjudices clairement illégaux, comme la maltraitance d'enfants et le terrorisme, tandis que les risques plus ambigus tels que l'influence indue et la désinformation sont plus difficiles à réglementer.

Meetali Jain du Tech Justice Law Project décrit l'IA générative comme des "médias sociaux sous stéroïdes", suggérant un impact sociétal potentiellement plus profond. La vitesse d'adoption de l'IA soulève des inquiétudes, car elle laisse moins de temps pour l'atténuation des dommages par rapport aux médias sociaux. Nina Vasan de l'Université de Stanford souligne le potentiel de l'IA à causer des dommages plus importants en raison de sa capacité à apprendre les vulnérabilités des utilisateurs.