OpenAI lance un mode ChatGPT pour adolescents avec des garde-fous renforcés

OpenAI a lancé un mode ChatGPT spécifique pour les utilisateurs âgés de 13 à 17 ans, introduisant des restrictions plus strictes sur le contenu nuisible, y compris la violence graphique, l'automutilation et les jeux de rôle sexuels.

Le mode adolescent est conçu avec des "garde-fous appropriés à l'âge" pour réduire l'exposition à du matériel potentiellement dangereux ou inapproprié pour leur développement. Le système rappellera aux jeunes utilisateurs de faire des pauses après 90 minutes d'activité dans une fenêtre de trois heures. OpenAI a également renforcé les protections pour empêcher le chatbot d'exprimer des sentiments personnels et alertera les utilisateurs si des images sensibles sont téléchargées.

Les fonctionnalités pour adolescents comprennent un "Mode Étude" pour aider aux devoirs et à l'apprentissage, des rappels de devoirs responsables, et "Heures d'Étude" pour définir des périodes d'utilisation par défaut. L'entreprise utilise des signaux comportementaux, tels que les heures d'utilisation, la formulation des invites et l'analyse de l'écriture manuscrite, pour estimer l'âge des utilisateurs, et applique par défaut un réglage pour les moins de 18 ans si l'âge ne peut être déterminé.

Ce lancement intervient dans un contexte de préoccupations croissantes concernant la sécurité de l'IA pour les mineurs à l'échelle mondiale. OpenAI est confronté à plusieurs poursuites judiciaires alléguant que ChatGPT exacerbe les crises de santé mentale et incite à la violence. Un cas récent impliquait un adolescent de 17 ans accusé de meurtre, qui aurait utilisé ChatGPT pour faire des recherches sur l'assassinat de sa famille.

Alors que le nouveau mode adolescent vise à améliorer la sécurité, des défis plus larges persistent concernant la vérification efficace de l'âge pour les plateformes d'IA et le potentiel d'utilisation abusive. L'Inde envisage également des restrictions progressives basées sur l'âge pour les plateformes de médias sociaux.