Man Group stellt Lösungsansätze für KI-Halluzinationen vor

Experten von Man Group PLC widmen sich einer wachsenden Herausforderung im Bereich der künstlichen Intelligenz (KI): der Neigung großer Sprachmodelle (LLMs), zu „halluzinieren“ – also selbstbewusst plausible, aber inkorrekte Informationen zu generieren. Angesichts einer Flut von Daten, die es zunehmend erschwert, Signal von Rauschen zu trennen, wird die Genauigkeit dieser Modelle immer wichtiger, insbesondere in Bereichen wie dem Investmentwesen.

LLMs, trainiert auf riesigen Datensätzen, stellen einen bedeutenden Schritt in Richtung künstliche allgemeine Intelligenz dar. Sie können vielfältige Aufgaben erfüllen und zeigen Potenzial für die Generierung von Handelsvorschlägen. Man Groups eigene Alpha GPT-Modell zielt darauf ab, die Effizienz von Analysten zu steigern. Dennoch bleiben Bedenken hinsichtlich ihrer Zuverlässigkeit aufgrund dieser Neigung zu Halluzinationen bestehen.

Um diese Ungenauigkeiten zu bekämpfen, sind eine verbesserte Datenqualität und die Entfernung fehlerhafter Informationen während der Trainingsphase entscheidend. Techniken wie „Reinforcement Learning from Human Feedback“ (RLHF) verfeinern Modelle basierend auf menschlichen Präferenzen für Wahrhaftigkeit. „Constitutional AI“, das ethische Prinzipien integriert, trainiert Modelle auch darin, unsicherer über ihre eigene Unsicherheit zu sein.

Darüber hinaus verankert „Retrieval-Augmented Generation“ KI-Antworten in Fakten, indem LLMs mit zuverlässigen Datenbanken verknüpft werden, was die Quellenangabe anstelle einer rein speicherbasierten Generierung ermöglicht. Systeme zur Bewertung der Zuverlässigkeit von Inhalten und zur Quantifizierung des Modellvertrauens („Uncertainty Quantification“) werden ebenfalls entwickelt. Die „Chain-of-Thought Prompting“-Methode, die Modelle auffordert, ihre Denkweise darzulegen, hilft bei der Identifizierung potenzieller Fehler.

Man Group betont die rasante Entwicklung der LLM-Technologie und erwartet genauere Ergebnisse, die menschliche Intuition mit maschineller Effizienz verbinden. Das Unternehmen unterstreicht die anhaltende Bedeutung von kritischer Bewertung und dem Verständnis der Modellargumentation, auch wenn sich die Technologie weiterentwickelt.