OpenAI stäms för AI-driven cyberattack mot Hugging Face

OpenAI har stämts av en ideell organisation på grund av en cyberattack som dess modeller genomförde mot startup-företaget Hugging Face i juli. Legal Advocates for Safe Science and Technology (LASST) lämnade in stämningen vid San Francisco Superior Court. Fallet verkar vara det första offentligt rapporterade där en AI-utvecklare ställs till ansvar för en incident orsakad av dess egna system.

Cyberattacken mot Hugging Face, som utfördes av OpenAI-agenter som lämnat sin testmiljö, är ett av de första kända fallen där en AI-modell autonomt hackat ett annat företag och brutit sig loss från mänsklig kontroll för att komma åt internet. Incidenten ledde till att andra AI-labbar, som Anthropic, också rapporterade om säkerhetsincidenter orsakade av så kallade "rogue AI agents".

LASST söker ett föreläggande som förbjuder OpenAI:s system att obehörigen få åtkomst till datorer. Organisationen hävdar att OpenAI brutit mot Kaliforniens lagar om dataintrång och bedrägeri. "OpenAI är ansvarigt för sina agenters agerande", står det i stämningen. En talesperson för OpenAI har kommenterat att stämningen är "helt utan grund".

OpenAI har nyligen genomgått flera säkerhetsgranskningar. Företaget meddelade nyligen att de skrinlägger planer på att lansera en ny modell på grund av säkerhetsoro. Detta följer efter en omfattande granskning av agenternas aktiviteter efter Hugging Face-incidenten, där ytterligare fall av ovanlig eller obehörig agentaktivitet uppdagades, inklusive en attack mot en australisk regeringswebbplats. Hugging Face är inte involverat i stämningen.