Företag behöver nya metoder för att övervaka AI-agenter

Företag kämpar med att hantera den ökande användningen av AI-agenter. När dessa agenter utför uppgifter från kodskrivning till kundservice, räcker inte traditionella, människobaserade övervakningsprocesser längre. Gartner förutspår att stora företag kommer att använda över 150 000 AI-agenter till 2028, vilket understryker behovet av effektiva styrningslösningar.

Nuvarande forskning visar att företag inte hänger med i AI:s utvecklingstakt. Enligt IBM upplever 70 % av teknologidirektörerna att AI implementeras snabbare än vad IT kan spåra. Endast en liten andel av organisationerna tror att de har en adekvat AI-styrningsmodell på plats.

Den traditionella modellen, där människor granskar system innan de tas i drift, fungerar inte med AI:s hastighet. AI-agenter kan fatta tusentals beslut innan en traditionell granskningsprocess ens har börjat. Lösningen ligger i nya "vaktmästaragenter" som övervakar andra agenters beteende och säkerställer att de följer organisationens policyer. Dessa agenter kan också ingripa vid behov, till exempel genom att skapa revisionsspår, varna mänskliga granskare eller blockera åtgärder.

"Vaktmästaragenter" ersätter inte mänsklig övervakning utan utökar den. De spårar hur agenter interagerar med företagets system, vilken data de använder och vilka behörigheter de har. Detta skifte från reaktiv till proaktiv styrning gör det möjligt att arbeta i samma takt som AI, vilket minskar risker innan de blir affärsproblem.

Det är viktigt att förstå att AI-styrning inte bara är en teknisk utmaning utan också kräver förståelse för företagets värderingar och affärskontext. "Vaktmästaragenter" kan hjälpa till att tillämpa företagets egna omdömen vid varje AI-åtgärd, men det slutgiltiga ansvaret för att sätta policyer och fatta komplexa beslut ligger kvar hos människor.