Man erkände sig skyldig efter mordplaner via ChatGPT-konversationer

En 25-årig före detta analytiker på Goldman Sachs har erkänt sig skyldig till grovt olaga tvång och olaga hot efter att OpenAI anmälde hans konversationer med ChatGPT till FBI. Mannen hade i detalj beskrivit sina planer på att skada sitt ex-flickvän i samtal med AI-tjänsten. Uppgifterna fångades upp av OpenAI:s interna granskningsteam.

Moral erkändes skyldig till samtliga tre åtalspunkter. Enligt uppgörelsen undviker han fängelsestraff och får istället åtta års skyddstillsyn samt två års elektronisk övervakning. Domaren accepterade uppgörelsen efter godkännande från den drabbade ex-flickvännen. Han undviker en fällande dom för brott om han fullföljer sin skyddstillsyn.

OpenAI:s policy innebär att en mindre grupp anställda granskar konversationer om systemet upptäcker indikationer på att någon planerar att skada andra. I allvarliga fall vidarebefordras informationen till brottsbekämpande myndigheter. Detta var vad som skedde i detta fall, där OpenAI larmade FBI i maj 2026 efter att ha identifierat ett mönster i användarens meddelanden.

Militära agenter tillhandahöll ungefär två månaders chattloggar till lokala myndigheter. Trots att mannen uttryckt konkreta mordplaner och nämnt inköp av vapen, hävdade hans advokat att han inte ägde några skjutvapen. Mannen misstänks även ha kontaktat sitt ex-flickvän med trakasserande och hotfulla meddelanden via flera nummer.

Fallet är ett av flera där loggar från AI-chattbotar använts som bevis i brottsutredningar. Det är dock ovanligt att OpenAI proaktivt kontaktar myndigheter, till skillnad från när loggar begärs via domstolsbeslut. Detta skiljer sig från ett tidigare fall i Kanada där OpenAI inte larmade myndigheterna trots att en användares konto blockerats för våldsamma aktiviteter, vilket senare ledde till en masskjutning.