Sicherheitsrisiken von KI-Agenten: Gateways allein sind unzureichend
KI-Agenten-Implementierungen bergen erhebliche Sicherheitsrisiken, selbst nach erfolgreicher Authentifizierung. Experten warnen, dass Gateway-Sicherheitsmaßnahmen allein nicht ausreichen, um vor Schwachstellen wie Datenlecks und Speichervergiftung zu schützen.
KI-Agenten stellen trotz bestandener Authentifizierung erhebliche Sicherheitsrisiken dar. Laut VentureBeat reicht der häufig eingesetzte Gateway-Ansatz oft nicht aus. Das Problem liegt darin, dass die Sicherheit auf Gateway-Ebene auf darunterliegenden Identitäts- und Attributionsschichten beruht, die in Unternehmensumgebungen häufig unterentwickelt oder gar nicht vorhanden sind.
Ein drastisches Beispiel hierfür war die Aufnahme einer Schwachstelle in LiteLLM in den Katalog der bekannten ausgenutzten Schwachstellen (Known Exploited Vulnerabilities) durch die CISA. Angreifer nutzten diesen Fehler aktiv aus, der die Ausführung von Befehlen auf dem Host über das Gateway selbst ermöglichte. In Kombination mit einer weiteren Schwachstelle war keine Authentifizierung erforderlich, was ein kritisches Versagen der mehrschichtigen Sicherheit aufzeigte.
Branchenexperten plädieren für einen schrittweisen Ansatz bei der Sicherheit von Agenten, bei dem Gateway-Kontrollen als fünfte Schicht und nicht als erste betrachtet werden. Das kritische Problem liegt in der korrekten Sequenzierung dieser Kontrollen, insbesondere in bestehenden 'Brownfield'-Umgebungen. Ein robustes Sicherheitsframework erfordert nicht nur ein Gateway, sondern auch umfassendes Identitätsmanagement, Attributionskontext, aufgabenbezogene Anmeldeinformationen, nachverfolgbare Telemetrie, Laufzeitüberwachung und Verhaltensbeobachtung.
Ohne klaren Kontext – also ohne Wissen darüber, welcher Agent handelt, wer die Aufgabe delegiert hat, welche spezifische Operation durchgeführt wird und welche Anmeldeinformationen verwendet werden – sind Sicherheitskontrollen begrenzt. Ein Gateway kann zwar offenkundige Richtlinienverstöße blockieren, hat aber Schwierigkeiten, legitime Aktionen von operativ unangemessenen, aber technisch zulässigen Aktionen zu unterscheiden. Effektive Agentensicherheit funktioniert als Abhängigkeitskette, bei der jede Kontrollmaßnahme auf Informationen angewiesen ist, die von früheren Ebenen generiert wurden.