Meta alerte les parents sur les discussions de leurs adolescents concernant le suicide avec son IA

Meta a annoncé jeudi qu'elle commencerait à informer les parents si leur adolescent engageait des discussions sur le suicide ou l'automutilation avec le chatbot Meta AI de l'entreprise. La société développe également une fonctionnalité pour contacter les services d'urgence si une conversation suggère un risque d'automutilation.

Ces mises à jour interviennent dans un contexte de surveillance accrue de la part des régulateurs et des parents concernant la manière dont les chatbots d'IA réagissent aux utilisateurs en crise, en particulier les adolescents. Cette question de responsabilité façonne de plus en plus la conception et la commercialisation des produits d'IA.

Meta a déclaré avoir développé un système d'IA dédié pour identifier les conversations où un adolescent indique clairement une intention de se faire du mal. Tous les chats signalés par l'IA feront l'objet d'un examen manuel avant qu'une alerte ne soit envoyée aux parents.

L'entreprise a reconnu que ces alertes pouvaient être éprouvantes pour les parents. Meta a indiqué que dans les situations ambiguës, elle privilégiera la prudence et notifiera le parent, même si cela implique des alertes occasionnelles sans motif de préoccupation réel.

La fonction de notification est désormais disponible pour les parents utilisant les outils de Supervision Parentale d'Instagram aux États-Unis, au Royaume-Uni, en Australie et au Canada. Meta prévoit de déployer cette fonction à l'échelle mondiale d'ici la fin de l'année.