Yritykset ottivat tekoälyagentit käyttöön ennen valvontaa

Yritykset ovat ottaneet tekoälyagentteja käyttöön nopeammin kuin he ovat ehtineet kehittää niihin liittyviä valvontamekanismeja, selviää VentureBeat Researchin kesäkuussa julkaisemasta tutkimuksesta. Yritykset tiedostavat tämän tilanteen ja ovat nyt alkaneet panostaa tarvittavien standardien ja kontrollien luomiseen.

Tutkimus kattoi viisi tekoälyagenttien hallintaan liittyvää osa-aluetta: identiteetti, arviointi, kustannusseuranta, kontekstikerrokset ja orkestrointi. Näillä osa-alueilla tehdään jo merkittäviä muutoksia: 57–68 % yrityksistä suunnittelee vaihtavansa toimittajaa tai lisäävänsä uusia toimittajia seuraavan 12 kuukauden aikana.

Suurin osa "agenteista" ovat todellisuudessa yksinkertaisia chatbotteja. Vain 10 % yrityksistä ilmoitti, että todellisia, monivaiheisia tehtäviä itsenäisesti suorittavia agentteja on enemmistö. Tämä tarkoittaa, että monet yritykset eivät täysin ymmärrä, minkä tyyppisiä agentteja ne ovat ottaneet käyttöön.

Tutkimus myös paljasti, että autonomia on kehittynyt luottamusta nopeammin arviointiprosesseissa. Kaksi kolmasosaa yrityksistä sallii jo agenttien tehdä muutoksia tuotantoympäristöön automaattisten arviointitulosten perusteella tai kehittävät aktiivisesti tätä mahdollisuutta. Vain 5 % luottaa täysin arvioinnin tekemiseen, ja puolet yrityksistä on kohdannut asiakasrajapinnassa vikoja, jotka ovat ilmenneet sisäisten arviointien läpäisyn jälkeen.

Lisäksi yritykset, jotka sallivat agenttien jakaa tunnistetietoja, kohtaavat enemmän tietoturvapoikkeamia. 69 % yrityksistä sallii osan agenteista käyttää jaettuja tunnistetietoja. Näissä organisaatioissa tietoturvapoikkeamia tai läheltä piti -tilanteita sattui 63,5 %:lla, kun taas yrityksissä, joissa jokaisella agentilla on oma identiteetti, luku oli 40,9 %.