Ny AI-sårbarhet HalluSquatting möjliggör skriptattacker
Forskare har avslöjat en ny AI-sårbarhet kallad HalluSquatting, som utnyttjar språkmodellers tendens att 'hallucinera' felaktiga kodförrådsadresser.
Forskare från Tel Aviv University, Technion och Intuit har identifierat en ny AI-sårbarhet känd som HalluSquatting. Denna sårbarhet utnyttjar stora språkmodellers benägenhet att generera felaktig eller påhittad information, i detta fall specifikt kodförrådsadresser.
Modellen kan till exempel skapa en felaktig eller felstavad adress för ett nytt eller okänt kodförråd, även när den avser att referera till ett legitimt projekt. Om en AI instrueras att köra ett skript från ett visst förråd och modellen 'hallucinerar' en felaktig adress, kan den dirigera användaren eller systemet till en skadlig version.
HalluSquatting-attacker kan leda till att skadlig kod exekveras på användarens enhet. Konsekvenserna kan inkludera skapandet av omvända skal (reverse shells), stöld av data och lösenord, installation av skadlig programvara eller kryptovaluta-mining.
Enligt studien är sannolikheten för att modeller skapar felaktiga kodförrådsadresser hög för nya eller sällan använda projekt, upp till 85 procent. För populära AI-verktyg som OpenClaw kan attackerna lyckas i 80–100 procent av fallen, medan verktyg som Copilot och Gemini har en lägre framgångsfrekvens på 20–35 procent.