Man Group aborde le problème des hallucinations dans l'IA

Les experts de Man Group PLC s'attaquent à un défi croissant de l'intelligence artificielle (IA) : la tendance des grands modèles linguistiques (LLM) à « halluciner » – c'est-à-dire à générer avec assurance des informations plausibles mais incorrectes. Alors que les volumes de données explosent, rendant plus difficile la distinction entre signal et bruit, la précision de ces modèles devient primordiale, en particulier dans des domaines tels que l'investissement.

Les LLM, entraînés sur de vastes ensembles de données, représentent une avancée significative vers une intelligence artificielle générale. Ils peuvent accomplir diverses tâches et montrent un potentiel pour générer des recommandations de trading. Le propre modèle Alpha GPT de Man Group vise à améliorer l'efficacité des analystes. Cependant, des préoccupations subsistent quant à leur fiabilité en raison de cette propension aux hallucinations.

Pour lutter contre ces inexactitudes, une meilleure qualité des données et l'élimination des informations erronées pendant la phase d'entraînement sont cruciales. Des techniques telles que l'apprentissage par renforcement à partir des retours humains (RLHF) affinent les modèles en fonction des préférences humaines en matière de véracité. L'IA constitutionnelle, qui intègre des principes éthiques, entraîne également les modèles à être plus transparents quant à leur incertitude.

En outre, la génération augmentée par récupération ancre les réponses de l'IA dans des faits en connectant les LLM à des bases de données fiables, permettant ainsi la citation de sources plutôt que la génération basée uniquement sur la mémoire. Des systèmes d'évaluation de la fiabilité du contenu et de quantification de la confiance des modèles (« uncertainty quantification ») sont également en cours de développement. La méthode de « chain-of-thought prompting », qui demande aux modèles de montrer leur raisonnement, aide à identifier les erreurs potentielles.

Man Group souligne l'avancement rapide de la technologie LLM, anticipant des résultats plus précis qui allient l'intuition humaine à l'efficacité de la machine. L'entreprise souligne l'importance continue de l'évaluation critique et de la compréhension du raisonnement des modèles, même à mesure que la technologie mûrit.