Unternehmen melden weit verbreitete Sicherheitsprobleme bei KI-Agenten
Eine neue Studie zeigt, dass über die Hälfte der Unternehmen bereits Vorfälle mit KI-Agenten erlebt hat. Die meisten Agenten teilen sich weiterhin Anmeldeinformationen, nur ein Drittel verfügt über eigene, dedizierte Identitäten.
Mehr als die Hälfte der Unternehmen (54 %) hatte bereits einen bestätigten Sicherheitsvorfall oder eine Beinahe-Katastrophe im Zusammenhang mit KI-Agenten zu verzeichnen, wie eine neue Untersuchung von VentureBeat ergab. Die Studie hebt eine kritische Lücke zwischen der den KI-Agenten gewährten Autonomie und den vorhandenen Kontrollmechanismen hervor.
Die Hauptschwäche liegt im Identitätsmanagement. Nur etwa ein Drittel (32 %) der Unternehmen weist jedem KI-Agenten eine eigene, abgegrenzte Identität zu. Die Mehrheit der Agenten teilt sich weiterhin Anmeldeinformationen oder API-Schlüssel, was die potenziellen Auswirkungen eines einzelnen kompromittierten Agenten erheblich erhöht. Darüber hinaus isolieren nur drei von zehn Unternehmen (30 %) ihre Hochrisiko-Agenten in Sandbox-Umgebungen, um mögliche Schäden zu begrenzen.
Die Sicherheitsarchitektur für KI-Agenten ist größtenteils von Cloud-Anbietern und KI-Modellentwicklern übernommen und nicht speziell für diesen Zweck entwickelt. Trotz einer angegebenen Zufriedenheit mit diesen bestehenden Werkzeugen plant die Mehrheit der Unternehmen, ihre Sicherheitswerkzeuge innerhalb eines Jahres zu ersetzen. Die Ausgaben für die Sicherheit von KI-Agenten machen weiterhin nur einen geringen Teil der gesamten Sicherheitsetats aus, und nur ein Drittel der Unternehmen glaubt, dass ihre Abwehrmaßnahmen mit KI-gestützten Angreifern Schritt halten.
Die Forschung, die auf den Antworten von 107 Unternehmen mit über 100 Mitarbeitern basiert, deutet auf eine proaktive Erfassung von Problemen hin, was sich in der hohen Rate von Beinahe-Vorfällen zeigt. Sie unterstreicht jedoch die dringende Notwendigkeit robusterer, dedizierter Sicherheitslösungen, um die sich entwickelnde Bedrohungslandschaft durch autonome KI-Agenten zu bewältigen.