Un homme plaide coupable après que OpenAI ait signalé un complot de meurtre via ChatGPT

Un ancien analyste de Goldman Sachs, âgé de 25 ans, a plaidé coupable de harcèlement criminel et de menaces suite à des conversations tenues avec ChatGPT d'OpenAI, dans lesquelles il détaillait ses plans pour agresser son ex-petite amie. L'équipe de sécurité interne d'OpenAI a détecté ce schéma préoccupant et a alerté de manière proactive le FBI.

L'homme a été condamné à huit ans de mise à l'épreuve et deux ans de surveillance électronique dans le cadre d'un accord de plaidoyer. Il a plaidé coupable de harcèlement aggravé, de menaces écrites de mort et d'utilisation illégale d'un téléphone portable. Le juge a suspendu le jugement formel, ce qui signifie que l'homme évitera une condamnation pour crime s'il respecte sa période de probation.

Les politiques d'OpenAI incluent un processus d'examen des conversations suggérant que les utilisateurs pourraient avoir l'intention de nuire à autrui. Dans les cas graves, l'entreprise contacte les forces de l'ordre. Les agents fédéraux ont ensuite fourni au bureau du shérif du comté de Palm Beach environ deux mois de journaux de conversation, qui auraient montré non seulement des lamentations mais aussi une planification et des répétitions claires.

Selon les documents judiciaires, l'homme a déclaré à plusieurs reprises à ChatGPT son intention de tuer son ex-petite amie, décrivant des scénarios spécifiques et mentionnant l'achat d'armes à feu. Son avocat a par la suite déclaré qu'il ne possédait pas d'armes. Les enquêteurs ont également constaté que l'homme avait utilisé plusieurs numéros de téléphone générés par l'application pour envoyer des messages harcelants et menaçants à son ex-petite amie.

Ce cas s'ajoute à un nombre croissant d'affaires où les journaux de chatbots IA sont devenus des preuves dans des enquêtes criminelles. Il est cependant moins courant que des entreprises comme OpenAI signalent de manière proactive de telles découvertes aux forces de l'ordre, par opposition à la récupération des journaux via une assignation à comparaître plus tard dans une enquête. Ceci contraste avec un incident antérieur où OpenAI n'avait pas informé les autorités canadiennes des intentions violentes d'un utilisateur, ce qui a conduit plus tard à une fusillade de masse.