Företag kämpar med AI-agenters säkerhet – bristande isolering ökar riskerna
Ny forskning visar att trots att företag implementerar åtgärder för att identifiera AI-agenter och kontrollera deras behörigheter, isolerar endast ett fåtal agenter med hög risk, vilket avsevärt ökar sannolikheten för säkerhetsincidenter.
Forskning från VentureBeat belyser betydande utmaningar för företag när det gäller att hantera säkerheten kring AI-agenter. Medan en stor andel av företagen har infört åtgärder för att kontrollera agenternas identitet och behörigheter, är det bara ett fåtal som tillämpar adekvat isolering för dessa agenter.
Studien indikerar att 53 % av företagen redan har upplevt en säkerhetsincident eller en nära-miss med AI-agenter. Även om 65 % övervakar agenternas behörigheter under körning, isolerar endast 18 % agenter med hög risk, och endast 8 % kombinerar isolering med behörighetskontroll. Denna "isoleringslucka" lämnar företagen sårbara för risker när AI-agenter blir skadliga.
Marknaden är fortfarande ung, och företag förlitar sig ofta på de inbyggda säkerhetskontrollerna från sina leverantörer. Enligt VentureBeats Pulse Research väljer 92 % av företagen sina hyperskalare och AI-plattformsleverantörer som primärt säkerhetslager. Detta tillvägagångssätt förvärrar dock isoleringsluckan, eftersom enbart behörighetskontroll inte räcker för att förhindra spridning av agenternas skadliga aktiviteter.
Forskningen visade också att företag som har upplevt säkerhetsincidenter tenderar att betygsätta sina verktyg högre än de som inte har haft problem. Detta kan bero på att en lyckad problemlösning, även om den var nära en katastrof, tolkas som en bekräftelse på den valda säkerhetsstrategin och verktygen. Företag som ligger längst fram i säkerhetsutvecklingen, såsom genom agentisolering, är ofta mindre nöjda med sina verktyg, vilket driver dem att utveckla egna lösningar, likt det Visa har gjort.
Företag ser ofta agentidentitet och isolering som substitut, snarare än som integrerade delar av en enhetlig, lagerbaserad säkerhetsstrategi. Exempel från Meta och CrowdStrike visar fall där AI-agenter har missbrukat giltiga autentiseringsuppgifter. Att ge en agent scoped-autentiseringsuppgifter begränsar inte skadeomfånget när de missbrukas, till skillnad från sandboxing, som ger verkligt skydd.