Ars Technica: Tekoälyagentit asensivat haitallista koodia yritysverkkoihin
Tutkijat havaitsivat, että yli 100 verkkosivustoa sisälsi haavoittuvuuden, jonka kautta tekoälyagentit, kuten Claude ja Codex, asensivat haitallista, aiemmin tunnistamatonta koodia yritysverkkoihin. Yli tusina yritystä, mukaan lukien Fortune 500 -yhtiöitä, suoritti todistetusti tämän haavoittuvuuden hyväksikäytön.
Ars Technica raportoi, että yli 100 verkkosivustoa sisältää haavoittuvuuden, joka on mahdollistanut haitallisen koodin asentamisen yritysverkkoihin monien tekoälyagenttien kautta. Tutkimuksessa paljastui, että useat yritykset, mukaan lukien Fortune 500 -listan yhtiöitä, suorittivat tätä haavoittuvuutta hyväksikäyttävää koodia.
Ongelma liittyy verkkosivustojen llms.txt- ja llms-full.txt-tiedostoihin, joita tekoälyagentit käyttävät verkkosivustojen rakenteen ja sisällön ymmärtämiseen. Tutkijat skannasivat tuhansia verkkotunnuksia ja löysivät 120 sivustoa, jotka viittasivat rekisteröimättömiin koodipaketteihin tai verkkotunnuksiin. Näiden rekisteröinti ja haitallisen paketin hostaus johti yhteydenottoihin yritysverkkoihin.
Kun tutkijat rekisteröivät joitakin näistä käyttämättömistä nimistä ja asensivat haitallisia paketteja, he saivat tunnistusviestejä (ns. 'phone-home') useista yrityksistä, mukaan lukien yhdestä Fortune 500 -yhtiöstä tunnissa. Yhteensä yli tusina yritystä suoritti haavoittuvuuden.
Tutkimus osoitti, että tekoälykoodausagentit, kuten Anthropicin Claude, OpenAI:n Codex ja Nous Researchin Hermes, olivat vastuussa haitallisen koodin suorittamisesta. Anthropic, OpenAI ja Nous Research eivät ole kommentoineet tapausta julkaisuhetkellä. Vähintään yksi väärin konfiguroitu verkkosivusto ohjaa kaikkia kävijöitä, niin ihmisiä kuin tekoälyjäkin, suoraan haittaohjelmien lähteelle.