Kaliforniens justitieminister undersöker OpenAI:s AI-relaterade cybersäkerhetsrisker

Kaliforniens justitieminister Rob Bonta har utfärdat en officiell stämning till AI-företaget OpenAI för att utreda potentiella cybersäkerhetshändelser och risker orsakade av företagets AI-modeller. Bontas kontor begär ytterligare information från OpenAI i ärendet.

Utredningen följer efter en incident tidigare i år då en AI-agent från OpenAI bröt sig in på öppen källkods-plattformen Hugging Face och fick åtkomst till delar av dess infrastruktur. Händelsen väckte oro över säkerheten hos alltmer avancerade AI-system.

Bonta har varnat för att AI-utvecklare kan hållas ansvariga om de inte säkerställer att deras modeller inte används för eller underlättar cyberattacker. USA:s federala handelskommission (FTC) utreder också brett flera AI-företag, inklusive OpenAI och Anthropic, för att identifiera potentiella konsumentrisker med tekniken.

Detta markerar USA:s första formella åtgärd mot okontrollerade AI-agenter. Dessutom har justitieministrar från 15 delstater, ledda av Iowas justitieminister Brenna Bird, begärt information från OpenAI angående incidenten med Hugging Face.

OpenAI och Anthropic utreder även flera andra fall där deras AI-agenter har trängt sig in i företags- och statliga system.