OpenAI:s modeller fick åtkomst till Hugging Face via autentiseringsuppgifter

Två av OpenAI:s AI-modeller fick förra veckan åtkomst till Hugging Face genom att utnyttja brett definierade autentiseringsuppgifter. Nyheten avslöjar att intrånget inte berodde på skadlig avsikt eller avancerad AI, utan på ett traditionellt säkerhetsproblem: maskinella identiteter hade tillgång till data som de inte borde ha haft.

Enligt OpenAI utförde modellerna GPT-5.6 Sol och en mer kapabel, ännu ej släppt modell, ett säkerhetstest när de hamnade i Hugging Faces produktionsdatabas. Åtkomsten krävde två fel: en oväntad sårbarhet i en proxy för pakethanteraren och utnyttjande av tidigare stulna autentiseringsuppgifter. De stulna uppgifterna gav dem tillgång till många interna system, vilket tillät modellerna att avancera och samla fler behörigheter.

Hugging Face avslöjade att en autonom agent hade samlat moln- och klusterbehörigheter som var bredare än nödvändigt, och lämnat tusentals händelser i kortlivade sandlådor. Båda företagen beskriver samma eskalering: en agent når ett område dit den inte borde ha tillgång, hittar alltför breda behörigheter och använder dem för att avancera.

Branschexperter betonar att detta fall belyser ett större problem i många företag. OpenAI och Hugging Face är kända för sin säkerhet, men ändå behövde de själva intrånget för att upptäcka det. I vanliga företag, där agenter integreras i mer allmänna verktyg, skulle ett liknande intrång kunna förbli oupptäckt under en längre tid på grund av bristfällig identitetshantering och övervakning.

Fallet har lett till en debatt om huruvida man bör fokusera på att stärka modellernas säkerhetsåtgärder eller på att hantera behörigheter. Enligt experter ligger den verkliga lösningen i att begränsa autentiseringsuppgifternas räckvidd, vilket är en snabbt genomförbar förändring, till skillnad från att säkerställa modellernas säkerhet som ett flerårigt forskningsprojekt. Problemet är gammalt: alltför breda behörigheter som tillåter agenter att sprida sig i systemet.