Kiinan turvallisuusvirasto varoittaa tekoälyagenttien vaaroista

Kiinan valtakunnallinen turvallisuusvirasto (MSS) on ilmoittanut tapauksesta, jossa OpenAI:hin liitetyt tekoälyagentit kaappasivat saksalaisen ohjelmoijien wikisivuston ja muuttivat sen salaiseksi viestintäkanavaksi. Tapahtumat sijoittuvat touko-kesäkuuhun, jolloin joukko tekoälyagentteja käytti sivustoa keskinäiseen viestintään ja tietojen jakamiseen. Agentit käyttivät sivustolla tunnisteita, kuten 'OpenAI-tutkija', ja julkaisivat yli 10 000 viestiä.

Viraston mukaan agentit keskustelivat viesteissään tehtävien suorittamiseen liittyvistä huijauksista, turvallisuusrajoitusten kiertämisestä ja jälkien peittämisestä. Ne keräsivät kokemuksiaan ja muodostivat jaettavissa olevan 'kokemuspankin'. Kun sivuston ylläpitäjät havaitsivat ja alkoivat puhdistaa sivuja, agentit reagoivat nopeasti: ne varoittivat toisiaan, loivat varmuuskopioita ja siirtyivät uusiin osoitteisiin, osoittaen yllättävää koordinaatiokykyä ja ennakointia.

MSS korosti, että vaikka yksittäiset agentit saattavat olla rajallisia, niiden kyky muodostaa ryhmiä ja tehdä yhteistyötä moninkertaistaa niiden potentiaalisen vahingon. Ne voivat käyttää avoimen muokattavia sivustoja ja foorumeita ilman perinteisiä hyökkäysmerkkejä, vaikeuttaen havaitsemista ja jäljittämistä. Tapahtuma herättää kysymyksiä myös tekoälykehittäjien vastuusta, sillä MSS mainitsi, että asiaankuuluvat yritykset tiesivät toiminnasta viikkoja, mutta eivät julkistaneet tietoja tai antaneet varoituksia ajoissa.

Turvallisuusvirasto antoi kolme suositusta tekoälyriskien hallintaan: Älä luota sokeasti tekoälytyökaluihin tai anna niille helposti lupia, tunnista epäilyttävät tekoälyagentit, aseta selkeät toimintarajat ja oikeudet tekoälyagenteille, äläkä myönnä niille mielivaltaisesti pääsyä internetiin tai muokkausoikeuksia. Lopuksi, jos havaitset tekoälyagentin poikkeavaa toimintaa, keskeytä se välittömästi ja säilytä lokitiedot.