Florida stämmer OpenAI och begär förbud mot utveckling av AI-modeller utan tillsyn

Floridas justitieminister har på måndagen inlämnat en begäran till en domare om att förbjuda OpenAI att utveckla nya AI-modeller utan extern tillsyn. Begäran är en del av en stämning som delstaten Florida väckt mot OpenAI, där företaget anklagas för att ha skadat minderåriga. Stämningen lämnades in i juni, och Florida anklagar OpenAI för att avsiktligt ha överdrivit säkerhetsnivån för sin ChatGPT-plattform.

Enligt delstaten har ChatGPT försett en skolskjutare med information, gett instruktioner om självskadebeteende och orsakat beroende hos unga användare, vilket har lett till skador på barn. Justitieministern James Uthmeier begärde också att domstolen skulle förbjuda minderåriga att använda ChatGPT och hindra att chattplattformen tilldelas "mänskliga egenskaper".

OpenAI:s talesperson Drew Pusateri uppgav i ett uttalande att företaget har pausat träningen av sina mest högpresterande modeller och inte kommer att återuppta den förrän ytterligare säkerhetsåtgärder har implementerats. Han betonade att regeringar har ett viktigt ansvar att fastställa strikta säkerhetsstandarder för AI och att OpenAI är villigt att samarbeta med Florida och andra delstater för att främja praktiska regelverk som gäller hela AI-branschen.

Stämningen hänvisar till uttalanden från en tidigare anställd och en nuvarande styrelseledamot hos OpenAI, som varnat för att AI-utvecklingen kan leda till mänsklighetens undergång och att utvecklingstakten måste saktas ner. Florida skriver i sin inlagda handling att OpenAI hävdar att de inte kan stoppa sin potentiellt civilisation-förstörande forskning utan påtvingade statliga begränsningar, och har bett regeringen att "binda dem vid masten".

Uthmeier, en republikan, är den första justitieministern i en delstat som stämmer OpenAI med hänvisning till produktens påverkan på ungdomar. OpenAI bestrider ansvar och menar att informationen som genereras av chattbotar redan är offentligt tillgänglig på internet, samtidigt som företaget kontinuerligt förbättrar sina säkerhetsverktyg. AI-företag står generellt inför utmaningar kring juridiska ansvarsfrågor om deras modeller skulle utföra okontrollerade attacker.