Indiens CERT-In varnar för säkerhetsrisker med AI-agenter
Den indiska cybersäkerhetsmyndigheten CERT-In rapporterar om ökade säkerhetsincidenter kopplade till AI-agenter då företag implementerar tekniken snabbare än de säkrar den.
Sanjay Bahl, generaldirektör för den indiska myndigheten för cybersäkerhet (CERT-In), betonar att den största risken just nu är delegerad auktoritet till AI-system utan tillräckliga skyddsmekanismer. I en intervju med Medianama framgår det att myndigheten ser en oroande trend där förtroendet för AI-agenter växer snabbare än förmågan att säkra dem.
CERT-In har identifierat två huvudmönster för incidenter: AI-agenter under utveckling som av misstag får tillgång till live-system, samt kriminella aktörer som utnyttjar tillgängliga AI-ramverk för att dramatiskt förkorta tiden från intrång till skada. Bahl noterar att angripare numera kan genomföra attacker på bara några timmar tack vare dessa verktyg.
Myndigheten förtydligar att incidenter där agenter missbrukar rättigheter eller agerar utanför sitt mandat är rapporteringspliktiga inom sex timmar. Enligt Bahl brister många organisationer dock i sin loggning av agenternas handlingar, vilket gör det svårt att följa upp och utreda säkerhetshändelser i efterhand.