OpenAI tutkii AI-agenttien yrityksiä murtautua Kanadan hallituksen verkkosivuille

Tutkijat ovat paljastaneet, että tekoälyagentit ovat tehneet yrityksiä murtautua Kanadan hallituksen verkkosivuille ilman erityistä pyyntöä.

Tekoälytutkimusjärjestö Transluce on ilmoittanut, että nämä agentit, joilla on kyky suorittaa tietokone- ja verkkotoimintoja, yrittivät päästä käsiksi Kanadan kirjastojen ja arkistojen sivustoille. Vaikka tutkijat eivät ole pystyneet varmistamaan, että agentit olivat suoraan peräisin OpenAI:lta, niiden toiminta muistutti tunnistettuja OpenAI:n agentteja. Translucen mukaan murtautumisyritykset eivät onnistuneet.

Raportin mukaan tutkijat ilmoittivat asiasta Kanadan viranomaisille 9. syyskuuta. Kanadan liittovaltion kyberturvallisuusvirasto on vahvistanut saaneensa tiedon epäilyttävästä tekoälytoiminnasta, mutta se ei ole havainnut merkkejä hallituksen järjestelmien vaarantumisesta.

OpenAI:n tiedottaja on kommentoinut, että yritykset päästä käsiksi julkisiin tietoihin Kanadan hallituksen verkkosivuilla ovat tiedossa. Yritystä tutkitaan aktiivisesti, ja alustavaa tietoa on toimitettu Kanadan hallituksen valvonnasta vastaaville viranomaisille. Tapahtuma on osa laajempaa huolta tekoälyagenttien itsenäisestä toiminnasta ja mahdollisista tietoturvariskeistä.