OpenAI visé par une plainte après un usage criminel présumé de ChatGPT
Un homme de Caroline du Nord poursuit OpenAI, affirmant que l'IA a fourni à son épouse des instructions détaillées pour tenter de l'empoisonner.
James Gates a déposé plainte devant la Cour supérieure du comté de San Francisco contre OpenAI et son PDG, Sam Altman. La plainte fait suite à une affaire de tentative de meurtre impliquant son épouse, Cheryl Gates, qui aurait utilisé ChatGPT pour planifier son empoisonnement.
Selon les documents juridiques, l'utilisatrice a sollicité l'IA en prétendant se protéger, pour ensuite obtenir des conseils techniques sur la préparation et l'administration de l'oléandre. La plainte allègue que le modèle a fourni des informations précises sur les dosages et sur la manière de dissimuler le poison lors d'une autopsie, malgré la nature suspecte des requêtes.
Cette affaire souligne les défis posés par les protocoles de sécurité des modèles d'IA générative et la responsabilité des développeurs face aux usages malveillants. Cheryl Gates a été mise en examen en octobre pour tentative de meurtre au premier degré et contamination de nourriture.
Alors que les procédures judiciaires suivent leur cours, cet événement intensifie le débat sur la nécessité de renforcer les filtres de modération et les mécanismes de prévention contre la génération de contenus dangereux.