MCP-Protokoll birgt Risiken für KI-Agentenkommunikation
Neue Forschungsergebnisse zeigen, dass das MCP-Protokoll für die Kommunikation zwischen KI-Agenten Sicherheitsrisiken für Organisationen birgt. Die Schwachstellen ermöglichen die Verbreitung schädlicher Anweisungen zwischen internen Agenten.
Die zunehmende Verbreitung von KI-Agenten in Unternehmen eröffnet Angreifern neue Möglichkeiten. Der unabhängige Forscher Syed Anas Mohiuddin hat festgestellt, dass das Model Context Protocol (MCP), das für die Kommunikation zwischen KI-Anwendungen und Agenten innerhalb eines internen Netzwerks verwendet wird, ein erhebliches Sicherheitsrisiko darstellen kann.
In den letzten fünf Monaten haben mehrere Organisationen, darunter Google und JP Morgan Chase, Schwachstellen gemeldet, bei denen ein Agent in einem Zielnetzwerk bösartige Befehle an andere interne Agenten weitergeben konnte. Diese Angriffstechnik ist eine Variante der Prompt-Injection, die direkt auf den Agenten abzielt und nicht auf das Sprachmodell selbst.
Die Schwachstelle im MCP-Protokoll nutzt das Vertrauen zwischen den Agenten aus. Wenn ein Agent eine schädliche Anweisung erhält, leitet er diese an andere interne Agenten weiter, die davon ausgehen, dass sie von einer vertrauenswürdigen Quelle stammt. Die internen Schutzmechanismen der Agenten sind oft unzureichend oder nicht vorhanden, was die Ausbreitung schädlicher Befehle im System ermöglicht.
Laut Mohiuddin ist die Schwachstelle unerwartet und schwer zu beheben. Das Problem betrifft mehrere Organisationen, die wenig gemeinsam haben, außer der Nutzung von KI-Agenten. Zu diesen Organisationen gehören Google, JP Morgan Chase, Weviate, Rapid7, das französische interministerielle Digitaldirektorat und die US-Bundesregierung.
Diese Entdeckung unterstreicht die Notwendigkeit, sicherere Protokolle für die Kommunikation zwischen KI-Agenten zu entwickeln, um Datenexfiltration und andere schädliche Aktivitäten zu verhindern.