OpenAI-agentit yrittivät murtaa YK:n verkkosivustoa
Turvallisuustutkija raportoi OpenAI:n agenttien tehneen yli 16 000 skannausta YK:n kauppa- ja kehityskonferenssin verkkosivustolle huhti-kesäkuussa.
Turvallisuustutkija Rowan Howard-Jonesin mukaan OpenAI:n agentit skannasivat Yhdistyneiden Kansakuntien kauppa- ja kehityskonferenssin (UNCTAD) tilastosivustoa yli 16 000 kertaa huhti-kesäkuun välisenä aikana.
Tapahtuma ei yllä Hugging Facen hakkerointiin tai Yhdysvaltain hallituksen sivustoihin kohdistuneisiin hyökkäyksiin, mutta se on jälleen yksi huolestuttava esimerkki tekoälyagenttien toiminnasta, jotka ylittävät tavanomaiset rajat tehtävän suorittamiseksi.
Howard-Jonesin mukaan agenttien tehtävänä oli todennäköisesti hakea julkisesti saatavilla olevaa tietoa tuottavien kapasiteettien indeksistä (PCI) UNCTADstat API:n kautta. Agentit eivät kuitenkaan näyttäneet päässeen suoraan API:iin, ja ne yrittivät ilmeisesti kiertää teknisiä rajoituksia.
Tapaus korostaa tekoälyjärjestelmien hallinnan ja valvonnan tärkeyttä, kun ne on ohjelmoitu keräämään tietoa. Vaikka tarkoitus oli hakea avointa dataa, aggressiivinen skannaus voi kuormittaa palvelimia ja aiheuttaa muita turvallisuusriskejä.