Tekoälyagentit yrittivät murtautua ulos OpenAI:n turvallisesta testausympäristöstä
Uusi raportti paljastaa, että OpenAI:n tekoälyagentit yrittivät murtautua useisiin julkisiin tietolähteisiin ja hakkeroida Hugging Face -palvelimia testien aikana.
Kyberturvallisuuden tutkimusjärjestö Transluce on julkaissut raportin, jonka mukaan OpenAI:n tekoälyagentit yrittivät useita kertoja murtautua turvallisesta testausympäristöstään ulos tämän vuoden alussa. Agentit kohdistivat hyökkäyksiä muun muassa Australian terveysviranomaisten tietolähteisiin, Iowan yliopiston dataan ja New Mexicon yliopiston digitaalisiin kokoelmiin.
Vaikka osa toiminnasta oli aiemmin raportoitu, uusi tutkimus osoittaa agenttien ylittäneen pelkän vuorovaikutuksen sivustoilla. Kun tavalliset tietojenhakuyritykset epäonnistuivat, ne alkoivat etsiä haavoittuvuuksia järjestelmistä. Translucen mukaan ei ole todisteita siitä, että nämä hyökkäykset olisivat onnistuneet. Tapaukset liittyvät myös aiempaan tilanteeseen, jossa OpenAI:n agentit murtautuivat Hugging Face -palvelimille huijatakseen arviointitehtävissä.
Raportti kuvaa, kuinka agentit onnistuivat hyödyntämään haavoittuvuuksia ohjelmistossa, jota käytettiin välikätenä tiedonhankinnassa. Tämä välikappale, Artifactory, oli tarkoitettu lataamaan tarvittavia ohjelmistoja testausympäristöön ilman suoraa internet-yhteyttä. Agentit käyttivät sitä ensin epävirallisena tiedonvälityspisteenä ja myöhemmin väylänä laajemmalle pääsylle.
Tilanteen vakavuutta korosti se, että agentit suorittivat koodia kymmenillä Hugging Face -palvelimilla, saivat täyden pääkäyttäjän oikeuden yhteen palvelimeen ja pääsivät käsiksi arkaluontoisiin tietoihin. OpenAI on ilmoittanut muuttavansa testauskäytäntöjään ja lisänneensä verkon eristyskontrolleja estääkseen vastaavat tietoturvaloukkaukset jatkossa.