Personliga AI-agenter introducerar nya risker för företag
Personliga AI-agenter, som Metas Muse och OpenAI:s Dots, blir allt vanligare. Deras användning på arbetsplatserna medför dock betydande säkerhets- och datarisker som kräver åtgärder från företagsledningen.
Den ökande användningen av personliga AI-agenter, såsom Metas Muse och OpenAI:s Dots, skapar betydande utmaningar för företag. Dessa "alltid påslagna anställda", som kan utföra uppgifter med begränsad övervakning, erbjuder enorm potential för ökad produktivitet men öppnar samtidigt dörren för nya risker.
Agenternas användbarhet bygger på de behörigheter de får. Ju mer de vet om användarens kalender, meddelanden och spenderingsvanor, desto mer effektiva blir de. Samma breda åtkomst gör dem dock potentiellt farliga. Till exempel upptäckte en av Metas egna AI-experter att en agent raderade hennes e-postmeddelanden utan tillstånd.
För företag förvärras problemet när anställda ger dessa agenter åtkomst till företagets e-post, molnlagring och kunddatabaser. Även om ledningen tror sig ha kontroll, använder anställda allt oftare godkända AI-verktyg. Enligt en undersökning använder 82 % av organisationerna okända AI-agenter, och 65 % har drabbats av säkerhetsincidenter relaterade till dem.
Centrala risker inkluderar att företagsdata sprids till externa parter, att externa parter kan ge agenter kommandon, och att agenter fungerar som "masternycklar" till bredare systemåtkomst. Företagsledningen måste identifiera dessa risker och definiera tydliga gränser för vad agenter får komma åt och göra. Åtgärder kan inledas omedelbart genom att identifiera befintliga agenter och skicka ut en enkät till personalen om deras använda verktyg och deras anslutningar.