Mann bekennt sich schuldig nach Mordplänen über ChatGPT-Gespräche
Ein Mann aus Florida hat sich schuldig bekannt, nachdem OpenAI seine ChatGPT-Gespräche, die Mordpläne enthielten, an das FBI weitergeleitet hatte. Er entging einer Gefängnisstrafe durch eine Einigung mit einer Bewährungsstrafe.
Ein 25-jähriger ehemaliger Analyst von Goldman Sachs hat sich schuldig bekannt wegen schwerer Nötigung und Bedrohung. Die Anklagepunkte beziehen sich auf Gespräche mit ChatGPT, in denen er detaillierte Pläne zur Schädigung seiner Ex-Freundin beschrieb. OpenAIs internes Sicherheitsteam entdeckte dieses Muster und informierte proaktiv das FBI.
Der Mann erhielt im Rahmen einer Einigung acht Jahre Bewährung und zwei Jahre elektronische Überwachung. Er bekannte sich schuldig wegen schwerer Nötigung, schriftlicher Tötungsdrohungen und illegaler Handynutzung. Der Richter enthielt die formelle Verurteilung zurück, was bedeutet, dass der Mann keine Vorstrafe bekommen wird, wenn er seine Bewährungszeit erfolgreich abschließt.
OpenAIs Richtlinien sehen eine Überprüfung von Gesprächen vor, die darauf hindeuten, dass Nutzer anderen schaden wollen. In ernsten Fällen kontaktiert das Unternehmen die Strafverfolgungsbehörden. Bundesagenten stellten dem Sheriff's Office des Palm Beach County etwa zwei Monate Chat-Protokolle zur Verfügung, die Berichten zufolge nicht nur leeres Gerede, sondern klare Planung und Proben zeigten.
Laut Gerichtsunterlagen sagte der Mann ChatGPT wiederholt, dass er seine Ex-Freundin töten wolle, und beschrieb spezifische Szenarien sowie den Kauf von Schusswaffen. Sein Anwalt erklärte später, dass er keine Waffen besitze. Ermittler stellten außerdem fest, dass der Mann mehrere über die App generierte Telefonnummern verwendet hatte, um belästigende und bedrohliche Nachrichten an seine Ex-Freundin zu senden.
Dieser Fall gehört zu einer wachsenden Zahl von Fällen, in denen Chatbot-Protokolle als Beweismittel in Strafverfahren dienen. Es ist jedoch weniger üblich, dass Unternehmen wie OpenAI solche Erkenntnisse proaktiv den Strafverfolgungsbehörden melden, anstatt die Protokolle später in einer Untersuchung anzufordern. Dies steht im Gegensatz zu einem früheren Vorfall, bei dem OpenAI kanadische Behörden nicht über die gewalttätigen Absichten eines Nutzers informierte, was später zu einer Massenerschießung führte.