Uusi AI-haavoittuvuus HalluSquatting mahdollistaa komentosarjahyökkäykset
Tutkijat ovat paljastaneet uuden tekoälyhaavoittuvuuden nimeltä HalluSquatting, joka hyödyntää kielimallien taipumusta 'hallusinoida' virheellisiä koodivaraston osoitteita.
Tutkijat Tel Avivin yliopistosta, Israelin tiedeinstituutista ja Intuitista ovat tunnistaneet uuden tekoälyhaavoittuvuuden nimeltä HalluSquatting. Tämä haavoittuvuus hyödyntää suurten kielimallien taipumusta luoda virheellisiä tai keksittyjä tietoja, tässä tapauksessa koodivarastoja.
Malli voi esimerkiksi luoda väärän tai kirjoitusvirheellisen osoitteen uuteen tai tuntemattomaan koodivarastoon, vaikka tarkoituksena olisi viitata lailliseen projektiin. Jos tekoälylle annetaan ohje suorittaa komentosarja tietystä varastosta ja malli 'hallusinoi' väärän osoitteen, se voi ohjata käyttäjän tai järjestelmän haitalliseen versioon.
HalluSquatting-hyökkäykset voivat johtaa haitallisen koodin suorittamiseen käyttäjän laitteella. Vaikutuksiin voi kuulua takaisinohjauskytkinten (reverse shell) luominen, tietojen ja salasanojen varastaminen, haittaohjelmien asentaminen tai kryptovaluutan louhinta.
Tutkimuksen mukaan mallien virheellisten koodivarastojen osoitteiden luomisen todennäköisyys on suuri uusien tai harvoin käytettyjen projektien kohdalla, yltäen jopa 85 prosenttiin. Suosittujen tekoälytyökalujen, kuten OpenClawin, kohdalla hyökkäysten onnistumisprosentti voi olla jopa 80–100 prosenttia, kun taas Copilotin ja Geminin kaltaisissa työkaluissa se on alhaisempi, 20–35 prosenttia.