xAI poursuit un homme pour utilisation de Grok afin de générer des images CSAM

xAI, l'entreprise spécialisée dans l'intelligence artificielle appartenant à Elon Musk, a intenté une action en justice contre un homme de Caroline du Sud. La société allègue que cet homme a utilisé son chatbot IA, nommé Grok, pour créer et modifier du matériel pédopornographique (CSAM), enfreignant ainsi les conditions d'utilisation d'xAI.

L'homme, identifié comme Terry Wayne Harwood, a été arrêté en février pour possession et diffusion de CSAM. Dans sa plainte, xAI affirme que Harwood a "sciemment et intentionnellement utilisé Grok pour contourner les mesures de sécurité, altérer des images non consensuelles, et générer et diffuser du CSAM".

xAI soutient qu'au moins une partie des images liées aux accusations criminelles visant Harwood ont été générées ou modifiées à l'aide de Grok. L'entreprise demande des dommages et intérêts pour rupture de contrat.

Harwood fait face à huit chefs d'accusation. Cette affaire met en lumière les défis rencontrés par les entreprises d'IA pour empêcher l'utilisation abusive de leurs technologies et faire respecter leurs politiques d'utilisation contre les activités malveillantes.