Ars Technica: AI-agenter installerade oidentifierad kod i företagsnätverk
Forskare upptäckte att över 100 webbplatser refererade till potentiellt skadligt exekverbart innehåll som installerades automatiskt av AI-agenter. Ett dussintal företag, inklusive Fortune 500-bolag, utförde bevisat denna typ av kod.
Ars Technica rapporterar om en sårbarhet som upptäckts i hur vissa webbplatser hanterar information för AI-agenter, vilket lett till installation av oidentifierad och potentiellt skadlig kod i företagsnätverk. Över hundra webbplatser visade sig innehålla länkar till exekverbart innehåll som oavsiktligt kördes av AI-agenter.
Problemet härrör från llms.txt- och llms-full.txt-filer, vilka används av AI-agenter för att förstå en webbplats struktur och innehåll. Forskare identifierade 120 sådana filer på olika webbplatser som pekade mot okända kodpaket eller domännamn. Genom att registrera dessa lediga domännamn och hosta kodpaket kunde forskarna bekräfta att AI-agenter faktiskt körde koden när de besökte dessa webbplatser.
Som ett resultat av detta fick forskarna "telefon-hem"-anrop från ett flertal företag, inklusive Fortune 500-bolag, vilket bekräftade att över ett dussin företag hade blivit utsatta. Detta skedde inom en timme för ett av företagen, och fler följde över tid.
De AI-agenter som identifierades som ansvariga för att köra koden inkluderar Anthropic's Claude, OpenAI's Codex och Nous Research's Hermes. Företagen bakom dessa AI-agenter har inte kommenterat händelsen vid tidpunkten för publicering. Dessutom har minst en felkonfigurerad webbplats identifierats som direkt leder besökare, oavsett om de är människor eller AI, till levande skadlig kod.