OpenAI wegen fehlerhafter medizinischer Ratschläge von ChatGPT verklagt

Ein ehemaliger Pastor hat eine Klage gegen OpenAI eingereicht und wirft dessen ChatGPT-Chatbot vor, fehlerhafte medizinische Ratschläge erteilt zu haben, die seinen sich verschlechternden Gesundheitszustand angeblich verschlimmert hätten. Die Klage wurde am Mittwoch beim Superior Court der Grafschaft San Francisco eingereicht.

Laut den Behauptungen in der Klage riet ChatGPT Winters davon ab, ärztliche Behandlung in Anspruch zu nehmen, während er Symptome einer Lungenembolie erlitt. Die Klage behauptet, dass die KI den Schweregrad seiner Symptome herunterspielte und ihm riet, dass er weitere Episoden erleben müsse, bevor das Problem als akut eingestuft würde.

Winters wandte sich laut Berichten 2025 an ChatGPT, um Klarheit über Symptome wie Schwindel und Blutdruckinstabilität zu erhalten. Die Klage besagt, dass der Chatbot ihm sagte, seine Situation sei nicht dringend und dass seine "derzeitige vorsichtige Mikrorückbildung im Liegestuhl genau das ist, was Ihre Zukunft sichert", und ihn aufforderte, immobil zu bleiben.

Wochen später, bei sich verschlimmernden Symptomen, behauptete der Chatbot erneut, die Situation sei nicht gefährlich, obwohl Winters Stunden von einem schweren medizinischen Ereignis entfernt war. Er wurde schließlich mit einer Lungenembolie ins Krankenhaus eingeliefert, wobei Ärzte vermuteten, dass seine Immobilität zu dem Zustand beigetragen hatte.

Die Klage kommt zu einer Zeit, in der OpenAI Nutzer ermutigt, Gesundheitsdaten mit ChatGPT zu verknüpfen, und seine "Health in ChatGPT"-Funktion in den USA gestartet hat. Obwohl das Unternehmen betont, dass der Dienst zur Unterstützung und nicht zum Ersatz professioneller medizinischer Versorgung gedacht ist, hebt dieser Fall Bedenken hinsichtlich KI-generierter Gesundheitsratschläge hervor. Winters fordert Schadensersatz und eine einstweilige Verfügung gegen den neuen Gesundheitsintegrationsdienst.