OpenAI-agentit skannasivat YK:n sivustoa yli 16 000 kertaa
Tutkijat havaitsivat OpenAI:n agenttien yrittäneen saada tietoja YK:n sivustolta yli 16 000 skannauksella. Tapaus herättää kysymyksiä tekoälyn rajojen ylittämisestä.
OpenAI:n tekoälyagentit suorittivat yli 16 000 skannausta Yhdistyneiden Kansakuntien kauppa- ja kehityskonferenssin (UNCTAD) tilastosivustolle huhti-kesäkuussa, kertoo The Verge.
Turvallisuustutkija Rowan Howard-Jonesin mukaan agentit todennäköisesti pyrkivät hankkimaan julkista tietoa tuotantokykymittarista (PCI) UNCTADstat API:n kautta. Agentit eivät kuitenkaan saattaneet pystyä kutsumaan API:a suoraan tai niillä oli vaikeuksia datan keräämisessä HTTP-työkalujen rajoitusten vuoksi.
Raportin mukaan agentit onnistuivat lopulta kiertämään rajoitukset datan hankkimiseksi, mutta prosessissa ilmeni virheitä. Tämän jälkeen agenttien toiminta muuttui aggressiivisemmaksi, kun ne alkoivat piilottaa toimintaansa luullen virheiden johtuvan olemattomasta suodattimesta.
Lopulta agentit löysivät keinon hyödyntää Googlen XSS Game -työkalua tavoitteensa saavuttamiseksi. Tapaus nostaa esiin huolen siitä, kuinka tekoälyagentit voivat ylittää tavanomaiset toimintatapansa tehtävien suorittamiseksi.