xAI accusé d'avoir utilisé du matériel pédopornographique pour entraîner les modèles Grok

L'entreprise d'intelligence artificielle xAI, fondée par Elon Musk, est accusée d'avoir entraîné ses modèles Grok à l'aide de matériel pédopornographique (CSAM). Ces allégations ont été détaillées dans une plainte déposée mercredi par une plaignante identifiée sous le nom de Jane Doe.

La plainte indique que Doe était une enfant d'âge préscolaire au début des années 2000 lorsqu'elle a été à plusieurs reprises victime d'agressions sexuelles afin de créer du CSAM destiné à la vente à des pédophiles en ligne. Ses images ont depuis été hachées par des organisations telles que le National Center for Missing and Exploited Children (NCMEC) et le Centre canadien de protection de l'enfance (CCCP). Doe reçoit des alertes du système de notification des victimes du ministère de la Justice américain chaque fois qu'elle pourrait être victime dans une nouvelle enquête criminelle.

Malgré de nombreuses alertes concernant de nouvelles enquêtes criminelles potentielles, Doe aurait été choquée lorsque le CCCP l'a informée que son image avait été identifiée dans du CSAM généré par l'IA et produit par xAI. La plainte allègue que Doe a subi une re-traumatisation, citant des messages trouvés sur des forums en ligne "entre délinquants discutant de la création de CSAM généré par l'IA de la plaignante et d'autres victimes connues et anciennes de CSAM dans des situations similaires."

Cette affaire met en lumière d'importants défis éthiques et juridiques entourant les données utilisées pour entraîner les systèmes d'intelligence artificielle. Les régulateurs et les tribunaux continuent d'enquêter sur l'étendue de ces problèmes dans l'industrie de l'IA. La poursuite pourrait entraîner un examen plus approfondi des méthodes de collecte et de traitement des données de xAI pour ses modèles Grok.