Organisationer minskar snabbt tillsynen av AI

En ny rapport från IT-företaget JumpCloud Inc. belyser en oroande trend i hur organisationer använder artificiell intelligens (AI). Under sex månader har andelen AI-funktioner som kräver mänsklig granskning minskat från 40 % till 25 %. Samtidigt har antalet AI-agenter som arbetar helt autonomt utan mänsklig kontroll mer än fördubblats, från 11 % till 26 %.

Enligt rapporten använder nu över sex av tio organisationer AI-agenter i produktionsmiljöer. Dock har styrningsmekanismerna inte hållit jämna steg med utvecklingen. Färre än en tredjedel av organisationerna har implementerat standardmässiga policyer för AI-styrning och säkerhet. Dessutom har endast 21 % infört kontroller för icke-mänskliga identiteter (NHI), som blir allt vanligare.

Organisationernas självskattade mognad inom AI har också sjunkit markant. För sex månader sedan ansåg 40 % av IT-cheferna att deras organisation var mogen för AI-införande, medan siffran nu bara är 23 %. Detta sker samtidigt som AI-agenter får bredare åtkomst och djupare integration i produktionsmiljöer.

"Intelligent, säker IT för den agenterade eran är inte ett framtida tillstånd. Det är ett krav just nu", säger Joel Rennich, senior vice vd för produktledning på JumpCloud. Han betonar att företag måste behandla alla identiteter, både mänskliga och icke-mänskliga, med krav på säkerhet, hantering och styrning för att kunna skala upp AI-användningen på ett tillförlitligt sätt.