Boxin mukaan tekoälyagenttien turvallisuudessa tarvitaan enemmän kuin käyttöoikeudet
Perinteiset käyttöoikeuksien hallintajärjestelmät eivät riitä tekoälyagenttien käyttäytymisen hallintaan, vaan tarvitaan uusia, käyttäytymiseen keskittyviä turvamekanismeja.
Yrityksissä tekoälyagenttien turvallisuuden on siirryttävä perinteisistä käyttöoikeuksien hallintajärjestelmistä laajempaan, käyttäytymisen hallintaan keskittyvään malliin, Boxin tietoturvajohtaja Heather Ceylan toteaa.
Tekoälyagentit toimivat eri tavoin kuin ihmiset. Vaikka käyttöoikeudet määrittelevät, mihin agentti pääsee käsiksi, ne eivät rajoita sen toimintaa sen jälkeen, kun se on alkanut työskennellä itsenäisesti. Autonominen agentti voi nopeasti muuttaa laillisen pääsyn yrityksen tietoihin tahattomiksi toimiksi, mikä luo merkittäviä turvallisuusriskejä.
"Pääsynvalvonta ja käyttöoikeudet ovat perusta, mutta haasteena on, että ne on suunniteltu ihmisiä varten", Ceylan selittää. "Tarvitaan käyttöoikeuksia, jotka muuttuvat sen mukaan, mitä agentilta on pyydetty ja milloin sen on toimittava." Hän korostaa, että jos agentti suorittaa tehtävää ja tarvitsee vain tiettyjä työkaluja, sen käyttöoikeudet tulisi rajata vain niihin.
Box ehdottaa kolmitasoista mallia tekoälytoimintojen hyväksyntään: täysin autonomiset toiminnot, valvotut toiminnot ja korkean riskin toiminnot, jotka vaativat ihmisen hyväksynnän. Tämä auttaa hallitsemaan riskejä ja varmistamaan, että agenttien toimet pysyvät määritellyissä rajoissa. Vanhat sisältöalustat eivät myöskään ole valmiita tekoälyagenttien vaatimuksiin, ja niiden metatiedot ja lokitiedot ovat riittämättömiä.