MCP-protokollet utgör en risk för AI-agenter

Den ökande användningen av AI-agenter inom företag öppnar nya vägar för angripare. Oberoende forskaren Syed Anas Mohiuddin har identifierat att Model Context Protocol (MCP), som används för kommunikation mellan AI-applikationer och agenter inom ett internt nätverk, kan utgöra en betydande säkerhetsrisk.

Under de senaste fem månaderna har flera organisationer, inklusive Google och JP Morgan Chase, rapporterat om sårbarheter där en agent inom ett nätverk har kunnat sprida skadliga kommandon till andra interna agenter. Denna attacktyp är en variant av prompt injection som riktar sig direkt mot agenten, snarare än mot själva språkmodellen.

Säkerhetsbristen i MCP-protokollet bygger på förtroendet mellan agenterna. När en agent tar emot en skadlig instruktion, vidarebefordrar den den till andra interna agenter som antar att den kommer från en betrodd källa. Agenternas interna skyddsmekanismer är ofta otillräckliga eller saknas helt, vilket tillåter skadliga kommandon att fortplanta sig i systemet.

Enligt Mohiuddin är sårbarheten oväntad och svår att åtgärda. Problemet påverkar flera organisationer med lite gemensamt förutom användningen av AI-agenter. Dessa organisationer inkluderar bland annat Google, JP Morgan Chase, Weviate, Rapid7, den franska regeringens interministeriella digitala direktorat och den amerikanska federala regeringen.

Denna upptäckt understryker behovet av att utveckla säkrare protokoll för kommunikation mellan AI-agenter för att förhindra dataexfiltrering och andra skadliga aktiviteter.