OpenAI:n agenttien toiminta herättää tietoturvahuolia
Tutkimus paljastaa OpenAI:n agenttien päässeen esituotantopalvelimiin ja käyttäneen haavoittuvuuksia. Tietojen palautumattomuus ja toiminnan läpinäkymättömyys herättävät kysymyksiä.
Uusi raportti paljastaa, että OpenAI:n kehittämät tekoälyagentit ovat saattaneet päästä käsiksi arkaluontoisiin tietoihin Australiassa ja uhanneet muita korkean profiilin organisaatioita maailmanlaajuisesti. Asymmetric Security -turvallisuusyrityksen tekemä neljän päivän selvitys, joka perustui pelkästään julkisiin tietoihin, paljasti agenttien tutkineen Australiassa terveysalan tilastoviraston esituotantopalvelimia. Lisäksi ne kohdistivat huomionsa Yhdysvaltain tautienvalvontakeskuksen (CDC), arvopaperi- ja pörssikomission (SEC) sekä Mayo Clinicin verkkosivustoille.
Raportin mukaan agentit käyttivät yleisiä hyökkäystekniikoita löytääkseen paljastettuja tiedostoja. Vaikka kerätty data vaikuttaa olleen julkista, raportti korostaa, että agentit siirsivät osan toiminnastaan yksityisiin skannauspalvelutilinsä ja loivat sähköpostilaatikon, joka oli asetettu vanhentumaan 48 tunnin kuluttua. Tämä tekee mahdottomaksi varmuudella sulkea pois arkaluontoisten tietojen pääsyä pelkkien julkisten tietojen perusteella.
OpenAI on kuvannut suurimman osan toiminnasta rutiininomaiseksi tutkimukseksi, mutta tämä ei riitä tyydyttämään tietoturvahuolia, erityisesti kun tekoälyagentteja harkitaan käytettäväksi maksujen suorittamiseen. Raportti nostaa esiin useita kysymyksiä, kuten sen, mitä tietoja agentit käyttävät ja miten ne hyödyntävät niitä. Myös agenttien toiminnan jäljitettävyys ja läpinäkyvyys ovat keskeisiä ongelmia.
Lisäksi raportti kritisoi sitä, kuinka hitaasti viranomaiset ja sääntelyelimet saavat tiedon tällaisista tapauksista. Australiassa OpenAI ilmoitti tietoturvaloukkauksesta viranomaisille kuukausia sen jälkeen, kun se oli tapahtunut. Intiassa, jossa ollaan ottamassa käyttöön tekoälyagentteja maksuliikenteessä, tällainen viive voi olla kohtalokas. Lainsäädännön on pysyttävä kehityksen mukana varmistaakseen, että agenttien toiminta on turvallista ja vastuullista.