Procès : Un homme utilise Grok pour créer 7 000 images sexuelles de sa belle-fille, puis se suicide
Une action collective élargie allègue qu'un homme a utilisé l'IA Grok de xAI pour générer 7 000 images de sa belle-fille avant de se suicider. La plainte accuse également xAI de mesures de sécurité inadéquates.
Un homme aurait utilisé le modèle d'intelligence artificielle Grok de xAI pour générer environ 7 000 images sexuellement explicites représentant sa belle-fille, alors âgée de 11 ans, avant de se donner la mort lorsque la police a découvert le matériel. Ceci est détaillé dans une action collective proposée, qui a depuis été élargie.
La plainte modifiée, redéposée aux États-Unis, accuse la société d'IA xAI et son fondateur Elon Musk d'avoir conçu Grok avec des systèmes de sécurité inadéquats qui n'ont pas empêché la création de contenu aussi explicite. Selon le document, les protocoles de sécurité de l'IA n'ont pas signalé les requêtes dangereuses jusqu'à ce que l'homme demande spécifiquement un "viol collectif", ce qui a déclenché un signalement au National Center for Missing and Exploited Children.
De plus, la plainte élargie affirme que xAI et X, la plateforme de médias sociaux appartenant à Musk, ont mis en danger des mineurs et protégé des prédateurs en fournissant des outils capables de générer du matériel pédopornographique (CSAM). Les allégations suggèrent que les entreprises ont également entravé les enquêtes des forces de l'ordre sur ce type de contenu.
La plainte, initialement déposée au nom d'une fille, a été élargie pour inclure les réclamations d'autres jeunes filles qui seraient également victimes de CSAM généré par Grok. Les plaignants cherchent à tenir xAI et X responsables des prétendues lacunes dans leurs protocoles de sécurité d'IA et des dommages en résultant.