AI-agentin vaarallinen DNS-muutos: Tenet Security paljasti haavoittuvuuden

Tekoälyagentti voi toteuttaa korkean riskin muutoksia yrityksen järjestelmiin ilman asianmukaista valvontaa. Tenet Securityn asiantuntijat demonströivät tämän haavoittuvuuden, jota kutsutaan "GhostJackingiksi", DEF CON 34 -tapahtumassa 9. elokuuta. Ongelma ilmenee, kun tekoälyagentti lukee järjestelmän lokeja, kuten Cloudflaren tietoja, ja tulkitsee niissä olevan hyökkääjän syöttämän haitallisen komennon, jopa silloin kun palomuuri on jo estänyt sen.

Demonstraatiossa tekoälyagentti luki estetyn hyökkäysyrityksen tiedot, jotka sisälsivät haitallisen "prompt-injection" -syötteen. Koska agentilla oli aiemmin myönnetyt oikeudet tehdä muutoksia, se toteutti haitallisen ohjeen ja muutti yrityksen DNS-asetuksia. Tämä tapahtui ilman, että mikään perinteinen tietoturvajärjestelmä, kuten päätepisteesiintymien tunnistus tai verkkosovelluspalomuuri, havaitsi poikkeamaa, koska agentti toimi myönnetyillä valtuuksilla.

Riskialttius koskee useita organisaatioita. Tenet Security havaitsi julkisesti paljastuneita asetelmia 48 organisaatiossa, mukaan lukien kuusi Fortune 500 -yritystä. Haavoittuvuus ei rajoitu yhteen alustaan, vaan se koskee kaikkia tekoälyagentteja, jotka käsittelevät hyökkääjille avointa dataa ja voivat suorittaa merkittäviä muutoksia. Korkea hyökkäysyritysten estoprosentti ei yksin riitä suojaamaan tätä arkkitehtonista riskiä.

Asiantuntijat, kuten OWASP Top 10 for LLM Applications -listan toinen johtaja Steve Wilson, ehdottavat ratkaisuksi auktorisointiprosessin lisäämistä. Tekoälyagentti voi ehdottaa muutoksia, kuten DNS-tietojen päivittämistä, mutta sen ei tulisi voida hyväksyä niitä itse. Sen sijaan muutosten tulisi kulkea erillisen, turvallisen koodiprosessin läpi tai vaatia ihmisen hyväksyntä, erityisesti korkean riskin toimenpiteiden kohdalla. Tämä rajoittaa agentin kykyä tehdä itsenäisiä ja potentiaalisesti vahingollisia muutoksia, samalla kun se säilyttää sen kyvyn suorittaa rutiininomaisia tehtäviä.