Företag implementerade AI-agenter före nödvändig styrning

Företag har implementerat AI-agenter snabbare än de har hunnit utveckla kontrollmekanismer för att hantera dem, enligt en studie från VentureBeat Research. Organisationerna är medvetna om denna situation och arbetar nu med att införa nödvändiga standarder och kontroller.

Forskningen täckte fem nyckelområden relaterade till hantering av AI-agenter: identitet, utvärdering, kostnadsmätning, kontextlager och orkestrering. Betydande förändringar planeras inom dessa områden: 57–68 % av företagen planerar att byta leverantör eller lägga till nya leverantörer inom de kommande 12 månaderna.

Majoriteten av de implementerade "agenterna" är faktiskt enkla chattbotar. Endast 10 % av företagen uppgav att äkta agenter, kapabla att självständigt utföra flerstegsuppgifter, utgör majoriteten. Detta innebär att många företag inte helt förstår vilken typ av agenter de har tagit i bruk.

Studien avslöjade också att autonomin har utvecklats snabbare än förtroendet inom utvärderingsprocesserna. Två tredjedelar av företagen tillåter redan agenter att göra ändringar i produktionsmiljön baserat på automatiska utvärderingsresultat, eller utvecklar aktivt denna möjlighet. Endast 5 % litar fullt ut på utvärderingarna, och hälften av företagen har upplevt kundvända fel som uppstått efter att ha klarat interna utvärderingar.

Dessutom upplever företag som tillåter agenter att dela autentiseringsuppgifter fler säkerhetsincidenter. 69 % av företagen tillåter att vissa agenter använder delade autentiseringsuppgifter. I dessa organisationer inträffade säkerhetsincidenter eller "nära ögat"-situationer i 63,5 % av fallen, jämfört med 40,9 % i företag där varje agent har en egen, avgränsad identitet.