Yritykset kamppailevat tekoälyagenttien turvallisuuden kanssa – puutteellinen eristys lisää riskejä
Uusi tutkimus paljastaa, että vaikka yritykset panostavat tekoälyagenttien tunnistamiseen ja käyttöoikeuksien valvontaan, vain harvat eristävät korkean riskin agentit, mikä lisää merkittävästi turvallisuusincidenttien todennäköisyyttä.
VentureBeatin tuore tutkimus paljastaa merkittäviä haasteita yritysten kyvyssä hallita tekoälyagenttien turvallisuutta. Vaikka suuri osa yrityksistä on ottanut käyttöön toimenpiteitä agenttien identiteetin ja käyttöoikeuksien valvontaan, vain pieni osa kiinnittää riittävästi huomiota agenttien eristämiseen.
Tutkimuksen mukaan 53% yrityksistä on jo kohdannut tekoälyagenttien aiheuttaman tietoturvapoikkeaman tai lähellä sitä. Vaikka 65% yrityksistä valvoo agenttien käyttöoikeuksia ajon aikana, vain 18% eristää korkean riskin agentit, ja ainoastaan 8% yhdistää eristämisen käyttöoikeuksien valvontaan. Tämä "eristysvaje" jättää yritykset alttiiksi riskeille, kun tekoälyagentit muuttuvat haitallisiksi.
Markkinat ovat yhä nuoria, ja yritykset luottavat usein ensisijaisesti palveluntarjoajien omiin turvallisuuskontrolleihin. VentureBeatin Pulse Research -tutkimuksen mukaan 92% yrityksistä nimeää ensisijaisen turvakerroksen hyperskaaleriensa ja tekoälyalustojensa tarjoamiksi. Tämä lähestymistapa kuitenkin pahentaa eristysvajetta, sillä pelkkä käyttöoikeuksien hallinta ei riitä estämään agenttien toiminnan leviämistä.
Tutkimuksessa havaittiin myös, että yritykset, jotka ovat kohdanneet tietoturvapoikkeamia, arvioivat käyttämiään työkaluja korkeammalle kuin ne, joilla ei ole ollut ongelmia. Tämä voi johtua siitä, että onnistunut ongelmanratkaisu, vaikka se olisi ollut lähellä katastrofia, tulkitaan vahvistukseksi valitulle turvallisuusstrategialle ja työkaluille. Sen sijaan yritykset, jotka ovat pisimmällä turvallisuuden kehittämisessä, kuten agenttien eristämisessä, ovat usein tyytymättömimpiä työkaluihinsa, mikä ajaa niitä kehittämään omia ratkaisujaan, kuten Visa on tehnyt.
Yritykset yhdistävät agenttien identiteetin ja eristämisen usein korvikkeina, vaikka niiden tulisi olla osa yhtenäistä, kerroksellista turvallisuusstrategiaa. Esimerkiksi Meta ja CrowdStrike ovat kohdanneet tapauksia, joissa tekoälyagentit ovat väärinkäyttäneet voimassa olevia tunnuksiaan. Pelkkä scoped-tunnusten antaminen ei rajoita vahingon laajuutta, toisin kuin hiekkalaatikointi (sandboxing), joka tarjoaa todellista suojaa.