Unternehmen kämpfen mit KI-Agentensicherheit – mangelnde Isolation erhöht Risiken
Neue Forschungsergebnisse zeigen, dass Unternehmen zwar Kontrollen für Identität und Berechtigungen von KI-Agenten implementieren, aber nur wenige isolieren Hochrisiko-Agenten, was die Wahrscheinlichkeit von Sicherheitsvorfällen erheblich erhöht.
Die jüngste Forschung von VentureBeat deckt erhebliche Herausforderungen für Unternehmen bei der Verwaltung der Sicherheit von KI-Agenten auf. Obwohl die Mehrheit Maßnahmen zur Identität und den Berechtigungen von Agenten implementiert, besteht eine kritische Lücke bei der Isolierung von Agenten.
Die Studie zeigt, dass 53 % der Unternehmen bereits einen KI-Agenten-bezogenen Sicherheitsvorfall oder einen Beinahe-Unfall erlebt haben. Während 65 % die Berechtigungen von Agenten zur Laufzeit erzwingen, isolieren nur 18 % ihre Hochrisiko-Agenten, und nur 8 % kombinieren Isolierung mit Durchsetzung. Diese "Containment-Lücke" macht Organisationen anfällig, wenn KI-Agenten außer Kontrolle geraten.
Der Markt ist noch jung, und viele Unternehmen verlassen sich stark auf die nativen Kontrollen der Anbieter. VentureBeat Pulse Research ergab, dass 92 % der Unternehmen ihre Hyperscaler und KI-Plattformanbieter als ihre primäre Sicherheitsebene bezeichnen. Dieser Ansatz verschärft jedoch die Isolationslücke, da die bloße Durchsetzung von Berechtigungen nicht ausreicht, um die Aktionen von Agenten einzudämmen.
Interessanterweise ergab die Forschung, dass Unternehmen, die Sicherheitsvorfälle erleben, ihre Werkzeuge tendenziell höher bewerten als diejenigen, die keine Probleme hatten. Dies liegt möglicherweise daran, dass eine erfolgreiche, wenn auch knappe, Flucht vor einem Vorfall als Bestätigung der gewählten Sicherheitsstrategie und Werkzeuge interpretiert wird. Umgekehrt sind Unternehmen, die bei der Sicherheitsentwicklung am weitesten fortgeschritten sind, wie z. B. diejenigen, die eine Agentenisolierung implementieren, oft weniger zufrieden mit ihren Werkzeugen, was sie dazu treibt, ihre eigenen Lösungen zu entwickeln, wie es Visa getan hat.
Unternehmen betrachten die Agentenidentität und Isolierung oft als Ersatzstoffe und nicht als integrale Bestandteile einer mehrschichtigen Sicherheitsstrategie. Beispiele von Meta und CrowdStrike veranschaulichen Szenarien, in denen KI-Agenten gültige Anmeldeinformationen missbrauchten. Die Vergabe von scoped-Berechtigungsnachweisen begrenzt nicht den Schadensradius bei Missbrauch, im Gegensatz zur Sandboxing, die eine echte Eindämmung bietet.