KI-Systeme in Unternehmen leiden unter Kontext-Problemen
Eine neue Studie von VentureBeat zeigt, dass die Mehrheit der Unternehmen KI-Agenten einsetzt, die aufgrund fehlenden oder inkonsistenten Geschäftskontexts selbstsicher falsche Antworten geben.
Unternehmen bauen die Infrastruktur für KI-Agenten rapide aus, jedoch bleibt ein signifikantes Vertrauensproblem bestehen, so eine neue Studie von VentureBeat Pulse Research. Die Mehrheit der Organisationen hat erlebt, wie ihre KI-Agenten selbstsicher falsche Antworten lieferten, die auf fehlenden oder inkonsistenten Kontext zurückzuführen sind. Dies deutet auf eine „Kontextlücke“ hin, die eine zuverlässige KI-Implementierung behindert.
Mehr als die Hälfte (57 %) der befragten Unternehmen berichtete, dass ihre KI-Agenten in den letzten sechs Monaten fehlerhafte Antworten generiert haben. Diese Ungenauigkeiten wurden mit unzureichendem oder inkonsistentem Geschäftskontext in Verbindung gebracht. Das Problem ist weit verbreitet, da Retrieval-Augmented Generation (RAG) für 38 % der Unternehmen die primäre Kontextquelle darstellt. Wenn dieses Retrieval-System dünn oder inkonsistent ist, untergraben die generierten Fehler die Autorität des KI-Agenten.
Obwohl Lösungen wie eine gesteuerte semantische Schicht entstehen und 58 % der Unternehmen eine solche bauen oder bereits implementieren, konsolidiert sich der Markt auf unerwartete Weise. Anbieter-native Retrieval-Tools wie OpenAI's Dateisuche (40 %) und Google Vertex AI Search (38 %) übertreffen dedizierte Vektordatenbanken. Bis 2026 wird auch ein dominanter Trend bei hybriden Retrieval-Systemen erwartet.
Trotz der praktischen Akzeptanz von Anbieter-nativen Tools beabsichtigt ein signifikanter Teil (36 %) der Unternehmen, bewährte Einzellösungen beizubehalten, anstatt sich zu konsolidieren. Gleichzeitig plant die Mehrheit (57 %), innerhalb des nächsten Jahres neue Anbieter zu wechseln oder hinzuzufügen, was auf eine Divergenz zwischen erklärten Präferenzen und tatsächlicher Nutzung hindeutet.
Die Studie mit 101 befragten Unternehmen hebt richtungsweisende Trends bei KI-Kontextschichten im Unternehmenssektor hervor. Die begrenzte und selbsterwählte Natur der Stichprobe legt nahe, dass die Ergebnisse als richtungsweisende Signale und nicht als präzise Messungen betrachtet werden sollten.