Yritykset epäonnistuvat tekoälyagenttien eristämisessä
Uusi tutkimus paljastaa, että vaikka monet yritykset valvovat tekoälyagenttien käyttöä ja rajoittavat niiden oikeuksia, vain harvat eristävät riskialttiimmat agentit.
VentureBeatin uusi tutkimus paljastaa merkittävän aukon yritysten tekoälyagenttien turvallisuudessa. Vaikka 65 % yrityksistä valvoo ja rajoittaa agenttien käyttöoikeuksia ajonaikaisesti, vain 18 % eristää korkean riskin agentit tehokkaasti. Tämä havainto korostaa laajenevaa riskiä, kun tekoälyagenttien autonomia kasvaa.
Tutkimukseen osallistui 116 yritystä, joista 53 % käytti tekoälyagentteja tuotannossa ja 27 % oli pilotoimassa niitä. Agenttikohtaisia tietoturvatapahtumia tai lähes-tilanteita on raportoitu jo 53 % yrityksistä, mikä lisää epävarmuutta turvallisuutta kohtaan. Esimerkiksi lähes kaksi kolmasosaa agenttikannasta kärsii edelleen tunnistetietojen jakamisesta.
Keskeinen ongelma on agenttien eristämisen puute. Yritykset panostavat valvontaan ja oikeuksien hallintaan, mutta eivät riittävästi rajoittamaan vahinkoja, jos jotain menee vikaan. Vain 21 % tuotannossa olevista agenteista eristetään, ja vain 8 % yhdistää eristyksen oikeuksien valvontaan. Tämä on käänteinen järjestys puolustusperiaatteiden mukaisesti.
Luottamus turvallisuuteen on heikentynyt, ja 30 % yrityksistä uskoo tekoälyaseistettujen hyökkääjien olevan puolustuksiaan edellä. Huolimatta tyytyväisyydestä nykyisiin työkaluihin, 74 % suunnittelee uusia hankintoja tai nykyisten työkalujen korvaamista tulevan kahdentoista kuukauden aikana, mikä osoittaa tarvetta parantaa turvallisuustoimia.