xAI poursuit un utilisateur accusé de créer du CSAM avec le chatbot Grok

La société d'IA xAI a intenté une action en justice contre l'un de ses premiers utilisateurs, l'accusant d'avoir utilisé le chatbot Grok pour générer du contenu illégal, y compris du matériel pédopornographique (CSAM). L'entreprise avait déjà fait face à un examen minutieux concernant le potentiel de son IA à générer des images sexualisées non consensuelles, y compris de mineurs.

Le procès vise Terry Wayne Harwood, qui a été arrêté plus tôt cette année pour possession et distribution de CSAM en Caroline du Sud. Selon les allégations de xAI, l'entreprise a contribué à l'arrestation de Harwood après avoir découvert des preuves qu'il avait utilisé deux comptes xAI pendant des mois pour déshabiller ou "nudifier" des images de plusieurs victimes, dont une jeune fille estimée à 10 ans.

Cette affaire met en lumière les défis liés à la prévention du détournement des technologies d'IA pour la création de contenus illégaux tels que le CSAM. L'action en justice de xAI semble être un effort pour combattre de tels abus et démontrer sa responsabilité en tant que développeur d'IA. L'entreprise cherchera probablement à renforcer ses systèmes de surveillance et de modération pour prévenir des incidents similaires à l'avenir.