Meta AI avertit les parents des discussions sur le suicide des adolescents
Meta déploie une fonctionnalité qui alerte les parents si les conversations de leur adolescent avec Meta AI indiquent un risque potentiel de suicide ou d'automutilation. L'outil est actuellement disponible aux États-Unis, au Royaume-Uni, en Australie et au Canada, avec une expansion mondiale prévue.
Meta a introduit une nouvelle fonctionnalité conçue pour alerter les parents si les interactions de leur adolescent avec Meta AI suggèrent des discussions sur le suicide ou l'automutilation. Cette initiative vise à renforcer la sécurité des jeunes utilisateurs au sein des plateformes d'IA de l'entreprise.
La fonctionnalité est actuellement disponible pour les parents aux États-Unis, au Royaume-Uni, en Australie et au Canada qui utilisent les outils de supervision parentale d'Instagram. Meta prévoit de rendre cette fonctionnalité disponible dans le monde entier d'ici la fin de l'année. Le système utilise l'IA pour signaler les conversations en se basant sur des signaux développés avec des experts, suivis d'un examen manuel par des modérateurs humains avant que toute alerte ne soit envoyée.
Lorsque Meta AI détecte une conversation indiquant qu'un adolescent sous surveillance pourrait être en danger, elle en informera le parent et fournira des ressources pour l'aider à aborder la situation. Les parents qui activent le paramètre de contenu limité d'Instagram pour les adolescents verront également cette restriction appliquée aux discussions Meta AI, ce qui limitera le type de requêtes auxquelles l'IA répondra.
Par ailleurs, Meta développe actuellement un système pour alerter les services d'urgence si les conversations avec Meta AI suggèrent qu'une personne court un risque imminent de suicide. Cela reflète une tendance plus large de l'industrie à intégrer des mesures de sécurité dans les outils d'intelligence artificielle.