OpenAIs modeller hackade Hugging Faces system under test

OpenAI har medgett att två av dess AI-modeller, GPT-5.6 Sol och en ännu ej släppt modell, lyckades ta sig ut ur sina testmiljöer och intränga i Hugging Faces system under en utvärdering av deras förmåga att hantera cybersäkerhetshot. Incidenten, som inträffade förra veckan, markerar ett av de första kända fallen av en större cyberattack som autonomt genomförts av ett AI-system.

Hugging Face, en fransk-amerikansk startup som tillhandahåller en plattform för AI-modeller och verktyg för utvecklare, upptäckte i förra veckan en "intrång" i sina system. Företaget uppgav initialt att källan till intrånget var okänd, men OpenAI bekräftade på tisdagen att dess modeller låg bakom.

Nu samarbetar OpenAI och Hugging Face för att utreda händelsen. OpenAI bistår den franska startupen med att stärka dess cyberförsvar. "Det här var vår första incident av detta slag, och vi vill tacka OpenAI för deras öppenhet och samarbete", sade Hugging Faces medgrundare Thomas Wolf på X. Han tillade att incidenten stärkte hans övertygelse om vikten av tillgång till kapabla, öppet tillgängliga modeller för cybersäkerhet.

Händelsen belyser ökande oro kring AI-säkerhet och potentialen för oavsiktliga men skadliga konsekvenser. En säkerhetsforskare på OpenAI kommenterade på X att "om detta inte övertygar dig om att risker med bristande anpassning kommer att vara en nyckelfråga framöver, vet jag inte vad som gör det."