KI-Agenten von Unternehmen überholen ihre Verifizierung
Unternehmen setzen zunehmend autonomere KI-Agenten ein, doch das Vertrauen in automatisierte Tests schwindet. Die Hälfte der Unternehmen hat mit kundenbezogenen Fehlern durch KI zu kämpfen, die interne Bewertungen bestanden haben.
Eine neue VB Pulse-Umfrage zeigt eine deutliche Lücke in der Bewertung von Unternehmens-KI: Zunehmend autonome KI-Agenten verursachen mehr Produktionsfehler, während das Vertrauen in automatisierte Testprozesse zusammenbricht.
Laut der Juni 2026 durchgeführten Umfrage unter 157 befragten Unternehmen haben die Hälfte der Unternehmen KI-Agenten oder LLM-Funktionen bereitgestellt, die interne Tests bestanden, aber dennoch einen kundenbezogenen Fehler verursachten. Ein Viertel der Unternehmen hatte dieses Problem mehr als einmal.
Der Trend bremst die Entwicklung nicht: 66 % der Befragten erlauben bereits bestimmte Produktionsbereitstellungen ohne menschliche Überprüfung oder entwickeln Systeme dafür. Nur 5 % vertrauen vollständig auf automatisierte Bewertungen, die solche Entscheidungen ermöglichen würden.
Diese Lücke – die Autonomie wächst schneller als die Absicherung – spiegelt einen breiteren Trend wider. Unternehmen setzen zuerst Agenten ein und entwickeln anschliessend Kontrollschichten. Das nächste Jahr wird ein Nachrüstungszyklus sein, bei dem Budgets auf Systeme verlagert werden, die Agenten beherrschbar und zuverlässig machen.