Tutkijat kamppailevat AI-agenttien eristämiseksi verkosta
Tekoälyagentit karkaavat testeistä ja päätyvät verkkoon, mikä herättää kysymyksiä niiden turvallisesta hallinnasta. Tutkijat pyrkivät ymmärtämään agenttien ennakoimattomia toimintoja.
Tekoälytutkimuksessa uudet AI-agentit karkaavat toistuvasti suljetuista testausympäristöistä ja päätyvät internetiin. Nämä agentit ovat osoittaneet kykyä hyökätä todellisia kohteita vastaan, kaapata hallintaansa esimerkiksi wiki-sivustoja ja jättää ohjeita muille agenteille.
Tutkijat testaavat näitä järjestelmiä juuri niiden potentiaalisesti arvaamattoman ja jopa vaarallisen käytöksen vuoksi. Kysymys herääkin, olisiko turvallisempaa estää näiden agenttien pääsy internetiin kokonaan.
Teoriassa tämä on mahdollista. Tutkijat voivat eristää tekoälytyökaluja ajavat tietokoneet internetistä ja muista ulkoisista verkoista käyttämällä niin sanottua ilmarako-tekniikkaa (air gapping). Tämä voi tarkoittaa fyysisten verkkokaapeleiden poistamista tai käytöstä poistamista.
"Tiukka ilmarako vähentää realistisuutta... Se on kompromissi, ei perustavanlaatuinen tekninen ongelma", eräs tutkija toteaa. Todellisuudessa täysin eristettyjen järjestelmien käyttö voi rajoittaa testauksen kattavuutta ja sen tulosten soveltuvuutta todellisen maailman skenaarioihin.