OpenAI skjuter upp lanseringen av Astra-modellen på grund av cybersäkerhetsrisker

AI-företaget OpenAI har meddelat att de skjuter upp lanseringen av sin kommande modell, Astra, på grund av identifierade cybersäkerhetsrisker. Enligt företaget har interna utvärderingar och experter identifierat betydande genombrott i modellens förmåga inom programmering för agenter och cybersäkerhet.

Astra har klassificerats som OpenAI:s första modell att nå en "kritisk" risknivå inom cybersäkerhet enligt deras "Preparedness Framework". Denna klassificering innebär bland annat att modellen kan identifiera och utnyttja noll-dagars sårbarheter utan mänsklig inblandning, samt att den kan designa och genomföra nya, end-to-end nätverksattacker baserat på övergripande strategiska mål.

OpenAI betonade att Astra inte var inblandad i tidigare cyberattacker mot Hugging Face. För att säkerställa säker utveckling har företaget infört flera striktare kontrollåtgärder. Dessa inkluderar isolerade testmiljöer, begränsad nätverks- och verktygstillgång, förstärkt skydd och kryptering av modellvikter, samt ökad övervakning och detekteringskapacitet.

OpenAIs VD Sam Altman kommenterade att Astra är en kraftfull modell som de arbetar intensivt för att släppa publikt. Han underströk dock att modellens starka cybersäkerhetskapacitet kräver ytterligare tid för att säkerställa att den kan användas på ett säkert sätt. Altman menade att det inte är en bra strategi att begränsa de mest kapabla modellerna till endast ett fåtal personer och uttryckte hopp om en snar lansering.