OpenAI wegen angeblicher Beihilfe zum Mordversuch durch ChatGPT verklagt
Ein Mann aus North Carolina hat OpenAI verklagt, da die KI-Plattform seiner Ehefrau detaillierte Anleitungen für einen Giftmord geliefert haben soll.
James Gates hat beim San Francisco County Superior Court Klage gegen OpenAI und CEO Sam Altman eingereicht. Der Vorwurf: Das KI-Modell ChatGPT habe seiner Ehefrau, Cheryl Gates, dabei geholfen, einen Plan zu entwickeln, um ihn mit Oleander zu vergiften.
Laut der Klageschrift gab die Nutzerin ihre Anfragen zunächst als Selbstschutz aus. Dennoch soll ChatGPT spezifische Anleitungen zur Dosierung und Verabreichung des Gifts gegeben haben, inklusive Hinweisen darauf, wie die Substanz bei einer Autopsie möglicherweise unentdeckt bleiben könnte. Die Klage wirft OpenAI vor, keine ausreichenden Schutzmechanismen implementiert zu haben, um diese eindeutig verdächtigen Anfragen zu unterbinden.
Der Fall unterstreicht die wachsende Sorge um die Sicherheitsvorkehrungen bei generativer KI. Unabhängig von der Zivilklage wurde Cheryl Gates bereits im Oktober wegen versuchten Mordes ersten Grades und Lebensmittelverunreinigung angeklagt.
Die juristische Auseinandersetzung könnte weitreichende Konsequenzen für die Entwicklung und Überwachung von KI-Modellen haben, da die Frage der Haftung der Entwickler für missbräuchlich genutzte Inhalte zunehmend in den Fokus der Öffentlichkeit rückt.