Storm Reply startet KI-Chatbot für Audi auf RAG-Basis

Storm Reply, ein Unternehmen der Reply-Gruppe, hat für den Automobilhersteller Audi einen KI-basierten Chatbot implementiert. Die Lösung nutzt die Retrieval Augmented Generation (RAG)-Technologie, um die Effizienz und Zuverlässigkeit des internen Informationszugangs zu verbessern.

Der Chatbot, der auf Amazon SageMaker basiert, ist darauf ausgelegt, Mitarbeitern schnelle und präzise Antworten zu Projektunterlagen, Risikobewertungen oder Kontaktdaten zu liefern. Er stellt sicher, dass nur relevante, geschäftskritische Informationen bereitgestellt werden. Sollten nicht genügend Daten vorhanden sein, um eine Anfrage zu beantworten, weist der Chatbot darauf hin, anstatt falsche Informationen zu generieren.

Retrieval Augmented Generation ermöglicht die Optimierung der Chatbot-Ausgaben durch Prompt-Engineering, ohne das zugrundeliegende KI-Modell zu verändern. Dieser Fortschritt verbessert Berichten zufolge die interne Kommunikation, steigert die Produktivität und erhöht die Qualität von Entscheidungen. Das System zielt darauf ab, Wissenssilos aufzubrechen, wodurch Informationen zugänglicher und sicherer werden und potenziell Kosten gesenkt werden können.

Michael Pawelke, Product Owner AWS Foundation Services bei Audi AG, hob hervor, dass der Chatbot ihre Cloud-Transformation beschleunigt und praktische Anwendungsfälle schnell löst. Filippo Rizzante, CTO bei Reply, fügte hinzu, dass der Chatbot Daten aus verschiedenen Quellen wie Confluence, Notion und PDFs integriert, wobei die Sicherheit über eine Virtual Private Cloud (VPC) gewährleistet ist.