OpenAI stäms över felaktiga medicinska råd från ChatGPT

En före detta pastor, Scott Winters, har väckt talan mot OpenAI och hävdar att företagets ChatGPT-AI gav honom felaktiga och potentiellt farliga medicinska råd som förvärrade ett livshotande tillstånd. Stämningsansökan lämnades in i San Francisco på onsdagen.

Enligt stämningsansökan uppmanade ChatGPT Winters att inte söka medicinsk behandling när han upplevde symtom som föregick en lungemboli. Det artificiella intelligenssystemet ska ha tonat ner allvaret i hans symtom och antydde att han behövde uppleva flera ytterligare episoder innan det skulle betraktas som akut.

Winters sökte enligt uppgift råd från ChatGPT under 2025 för symtom som yrsel och instabil blodtryck. Stämningsansökan hävdar att chatboten sa till honom att hans nuvarande tillstånd inte var akut och att hans "försiktiga mikropå återhämtning i liggande ställning precis köper din framtid", vilket uppmuntrade till stillasittande.

Veckor senare, med förvärrade symtom, hävdade chatboten återigen att situationen inte var farlig, trots att Winters befann sig timmar från en allvarlig medicinsk händelse. Han fördes senare till sjukhus med en lungemboli, och läkare misstänkte att hans stillasittande hade förvärrat tillståndet.

Fallet uppstår samtidigt som OpenAI promotar kopplingar av hälsodata till ChatGPT och har lanserat sin "Health in ChatGPT"-funktion i USA. Även om företaget betonar att tjänsten är avsedd att stödja snarare än ersätta professionell vård, belyser detta rättsfall riskerna med AI-genererade hälsoråd. Winters söker ekonomisk skadestånd och vill att den nya hälsotjänsten ska stoppas.