Man Group adresserar AI-hallucinationer

Experter på Man Group PLC har tagit itu med en alltmer framträdande utmaning inom artificiell intelligens (AI): hur man hanterar "hallucinationer" i stora språkmodeller (LLM), det vill säga när AI-system självsäkert genererar plausibel, men felaktig information. I en era av informationsöverflöd, där det blir allt svårare att skilja insikt från brus, är noggrannheten hos dessa modeller avgörande, särskilt inom finansvärlden.

LLM-modeller, tränade på enorma mängder textdata, utgör en milstolpe mot generell AI och kan utföra en rad uppgifter, inklusive att generera potentiella handelsrekommendationer. Man Groups egen modell, Alpha GPT, syftar till att avsevärt öka effektiviteten hos analytiker. Dock kvarstår frågan om huruvida dessa modeller är helt pålitliga med tanke på deras benägenhet att "hallucinera".

För att lösa problemet med hallucinationer krävs förbättrad datakvalitet och aktiv borttagning av felaktig information under träningsprocessen. Metoder som "reinforcement learning from human feedback" (RLHF) hjälper till att finjustera modellerna baserat på mänskliga preferenser för korrekta svar. Även "constitutional AI", som integrerar mänskliga värderingar och etik, tränar modeller att vara mer ärliga om sin egen osäkerhet.

Vidare stöder "retrieval-augmented generation" att grunda svar i fakta genom att koppla LLM:er till pålitliga databaser, vilket möjliggör källhänvisningar istället för att generera information enbart från minnet. System som bedömer tillförlitligheten av genererat innehåll och mått för att uppskatta modellernas självförtroende ("uncertainty quantification") utvecklas också. Tekniken "chain-of-thought prompting", där modellen uppmanas att visa sin resonemangskedja, hjälper till att identifiera potentiella fel.

Man Group betonar att LLM-tekniken utvecklas snabbt och att framtiden förväntas ge mer exakta svar som kombinerar mänsklig intuition med maskinell effektivitet. Företaget understryker vikten av fortsatt kritisk granskning och förståelse för modellernas resonemang även när tekniken mognar.