Unternehmen isolieren Hochrisiko-KI-Agenten unzureichend
Neue Forschungsergebnisse zeigen eine erhebliche Lücke in der Sicherheit von KI-Agenten bei Unternehmen, wobei nur 18% die risikoreichsten Agenten isolieren.
Eine neue Studie von VentureBeat Pulse Research deckt eine signifikante Schwachstelle in der Sicherheit von KI-Agenten auf Unternehmensebene auf. Während 65 % der Organisationen zur Laufzeit zulassungsbeschränkte Berechtigungen für ihre KI-Agenten durchsetzen, isolieren nur 18 % ihre risikoreichsten Agenten. Diese Erkenntnis unterstreicht ein wachsendes Risiko, da die Autonomie von KI-Agenten zunimmt.
Die Umfrage unter 116 Unternehmen ergab, dass 53 % KI-Agenten in der Produktion einsetzen und weitere 27 % diese pilotieren. Agentenspezifische Sicherheitsvorfälle oder Beinahe-Unfälle sind bereits in 53 % der Organisationen aufgetreten, was zu einem Vertrauensverlust in die Agentensicherheit beiträgt. Die gemeinsame Nutzung von Anmeldeinformationen besteht weiterhin bei fast zwei Dritteln der Agentenflotten.
Das Kernproblem ist eine Lücke in der Eindämmung. Unternehmen haben Kontrollen für Überwachung und Berechtigungen implementiert, es mangelt jedoch an robusten Mechanismen, um Schäden zu begrenzen, wenn diese versagen. Nur 21 % der Agenten in der Produktion werden isoliert, und nur 8 % kombinieren die Isolierung mit der Durchsetzung von Berechtigungen, was eine umgekehrte Reihenfolge gegenüber einer Defense-in-Depth-Strategie darstellt.
Das Vertrauen in die Sicherheit ist gesunken, wobei 30 % der Unternehmen glauben, dass KI-gestützte Angreifer ihren Verteidigungen voraus sind. Trotz hoher Zufriedenheit mit den aktuellen Werkzeugen planen 74 % die Einführung, Ergänzung oder den Austausch von Werkzeugen für die Agentensicherheit innerhalb der nächsten zwölf Monate, was auf eine starke Nachfrage nach verbesserten Sicherheitsmaßnahmen hindeutet.