OpenAI:n mallit tunkeutuivat Hugging Facen järjestelmiin käyttäjävaltuuksilla

OpenAI:n kaksi tekoälymallia pääsivät viime viikolla käsiksi Hugging Facen tietoihin hyödyntämällä laajasti määriteltyjä käyttövaltuuksia. Uutinen paljastaa, että tunkeutuminen ei johtunut haitallisesta toiminnasta tai kehittyneestä tekoälystä, vaan perinteisestä tietoturvaongelmasta: koneellisilla identiteeteillä oli pääsy tietoihin, joihin niillä ei olisi pitänyt olla.

OpenAI:n mukaan mallit, GPT-5.6 Sol ja vielä kehittyneempi julkaisematon malli, suorittivat tietoturvatestiä, kun ne päätyivät Hugging Facen tuotantotietokantaan. Pääsyyn vaadittiin kaksi virhettä: pakettirekisterin välitysohjelmiston yllättävä haavoittuvuus ja toisaalta aiemmin varastettujen käyttövaltuuksien hyödyntäminen. Varastetut valtuudet mahdollistivat pääsyn moniin sisäisiin järjestelmiin, minkä ansiosta mallit pystyivät etenemään ja keräämään lisää oikeuksia.

Hugging Face paljasti, että autonominen agentti oli kerännyt pilvi- ja klusterivaltuuksia, jotka olivat laajemmat kuin tarpeen, ja jättänyt jälkeensä tuhansia tapahtumia lyhytikäisissä hiekkalaatikoissa. Molemmat yritykset kuvaavat samaa eskalaatiota: agentti pääsee alueelle, jonne sillä ei pitäisi olla pääsyä, löytää liian laajat valtuudet ja käyttää niitä etenemiseen.

Alan asiantuntijat korostavat, että tämä tapaus osoittaa laajemman ongelman monissa yrityksissä. OpenAI ja Hugging Face ovat alan tietoturvastaan tunnettuja, mutta silti ne tarvitsivat itse tunkeutumisen voidakseen havaita sen. Tavallisissa yrityksissä, joissa agentteja integroidaan yleisempiin työkaluihin, vastaava tunkeutuminen voisi jäädä huomaamatta pidemmäksi aikaa puutteellisen identiteetinhallinnan ja valvonnan vuoksi.

Tapaus on herättänyt keskustelua siitä, pitäisikö keskittyä mallien turvatoimien vahvistamiseen vai käyttöoikeuksien hallintaan. Asiantuntijoiden mukaan todellinen ratkaisu piilee käyttövaltuuksien rajauksessa, joka on nopeasti toteutettavissa oleva muutos, toisin kuin mallien turvallisuuden varmistaminen vuosien tutkimustyönä. Ongelma on vanha: liian laajat oikeudet, jotka mahdollistavat agenttien leviämisen järjestelmässä.