Unternehmen steigern KI-Automatisierung nach Fehlern
Trotz KI-Fehlern beschleunigen Unternehmen die Automatisierung und reduzieren die menschliche Aufsicht bei KI-Implementierungen. Neue Forschung zeigt eine Diskrepanz zwischen Vertrauen und realen Ergebnissen.
Unternehmen, die Fehler in KI-Systemen in der Produktion erlebt haben, beschleunigen die Reduzierung menschlicher Beteiligung bei Implementierungsentscheidungen. Dies geht aus einer neuen Untersuchung von VentureBeat Intelligence hervor. Dieser Trend setzt sich fort, obwohl das Vertrauen in automatisierte Auswertungsverfahren steigt.
Im Juli gaben 13 % von 108 befragten Unternehmen an, automatisierten Auswertungen zu vertrauen, ein signifikanter Anstieg von 5 % im Vormonat. Gleichzeitig sanken die Bedenken hinsichtlich der mangelnden Übereinstimmung zwischen Tests und realen Ergebnissen um 10 Prozentpunkte auf 19 %. Trotzdem berichteten 49 % der Unternehmen, dass ein KI-Merkmal, das seine Tests bestanden hatte, dennoch ein kundenbezogenes Problem verursachte – eine Zahl, die weitgehend unverändert blieb.
Die Situation ist paradox: Unternehmen, die Probleme mit KI-Systemen hatten, die Tests bestanden, sind eher geneigt, den automatisierten Überprüfungsprozess zu bezweifeln. Dennoch treiben 85 % dieser "geschädigten" Unternehmen die automatisierte Implementierung ohne menschliche Genehmigung voran, verglichen mit nur 61 % der Unternehmen, die keine ähnlichen Probleme hatten. Dies deutet darauf hin, dass Unternehmen die Automatisierung als Reaktion auf Fehler erhöhen, möglicherweise um die Implementierungsreife zu verbessern.
Laut der Studie bewegen sich Unternehmen, die Fehler erlebt haben, schneller auf ein Modell zu, bei dem Implementierungen ohne menschliche Genehmigung erfolgen. Nur 11 % dieser Unternehmen lehnen vollständig automatisierte Implementierungen für die Zukunft ab, verglichen mit 24 % derjenigen ohne solche Probleme. Diese Entwicklung zeigt einen klaren Trend zu erhöhter Autonomie in KI-Systemen.