Unternehmen setzten KI-Agenten vor Kontrollmechanismen ein
Unternehmen haben KI-Agenten schneller eingeführt, als die notwendigen Kontrollen zu deren Verwaltung vorhanden waren, eine Situation, die von den Organisationen selbst anerkannt wird. Dies ist eine zentrale Erkenntnis aus fünf parallelen Umfragen von VentureBeat Research im Juni.
Nach einer Untersuchung von VentureBeat Research haben Unternehmen KI-Agenten in einem Tempo eingeführt, das die Entwicklung notwendiger Kontroll- und Governance-Mechanismen übertrifft. Die Organisationen sind sich dieser Lücke bewusst und planen nun aktiv Investitionen zur Implementierung von Standards und Kontrollen.
Die Forschung untersuchte fünf Schlüsselbereiche der Agenten-Governance: Identität, Evaluierung, Kosten-Telemetrie, Kontextschicht und Orchestrierung. In diesen Bereichen sind signifikante Veränderungen geplant: 57 % bis 68 % der Unternehmen beabsichtigen, ihre Anbieter innerhalb der nächsten 12 Monate zu wechseln oder neue hinzuzufügen.
Ein Großteil der eingesetzten „Agenten“ sind in Wirklichkeit hochentwickelte Chatbots und keine echten autonomen Systeme. Nur 10 % der Unternehmen gaben an, dass echte Agenten, die mehrstufige Aufgaben ausführen können, die Mehrheit ihrer eingesetzten Systeme ausmachen. Dies deutet auf ein weit verbreitetes Missverständnis der genutzten Fähigkeiten hin.
Die Forschung ergab auch, dass die Autonomie die Vertrauenswürdigkeit von Evaluierungsprozessen übertrifft. Zwei Drittel der Unternehmen erlauben Agenten, Änderungen in der Produktion basierend auf automatisierten Auswertungen vorzunehmen, oder arbeiten aktiv darauf hin. Nur 5 % vertrauen diesen automatisierten Auswertungen vollständig, und die Hälfte der Unternehmen erlebte kundenbezogene Ausfälle, nachdem Agenten interne Bewertungen bestanden hatten.
Darüber hinaus sehen sich Unternehmen, die Agenten die gemeinsame Nutzung von Anmeldeinformationen gestatten, einem höheren Aufkommen von Sicherheitsproblemen gegenüber. 69 % der Organisationen erlauben die gemeinsame Nutzung von Anmeldeinformationen für einige Agenten. Diese Firmen meldeten Sicherheitsvorfälle oder Beinahe-Unfälle mit einer Rate von 63,5 %, verglichen mit 40,9 % in Unternehmen, in denen jeder Agent eine eigene, abgegrenzte Identität hat.