Étude : Les grands modèles linguistiques se rappellent plus qu'il n'y paraît
Une nouvelle recherche révèle que les modèles linguistiques avancés encodent la plupart des faits mais peinent à les rappeler. L'amélioration des capacités de raisonnement des modèles peut accroître la fiabilité.
Des chercheurs de Google Research et du Technion ont découvert que les grands modèles linguistiques (LLM), y compris les modèles de pointe comme GPT-5 et Gemini-3, encodent 95 à 98 % des faits testés. Ces connaissances sont stockées de manière paramétrique mais peinent souvent à refaire surface lors de la génération.
Traditionnellement, les erreurs des LLM, telles que les hallucinations, étaient attribuées à un manque de connaissances, ce qui a conduit à des efforts pour augmenter la taille des modèles ou les données d'entraînement. Cependant, la nouvelle étude suggère que le principal goulot d'étranglement est le rappel de l'information, et non son absence.
La recherche présente le "profilage des connaissances", une méthode pour évaluer les connaissances d'un modèle sur des faits individuels dans diverses conditions. Cela distingue les informations "encodées" (stockées dans les paramètres) et celles qui sont "connues" (fiablement récupérables). Les modèles peuvent récupérer jusqu'à 40 à 65 % des faits qu'ils ne parviennent initialement pas à rappeler directement, lorsqu'on leur donne un temps de calcul supplémentaire pour "réfléchir" au processus.
Ce rappel par la "réflexion", terme appelé "facilitation du rappel", peut réduire la nécessité de modèles toujours plus grands ou de bases de données externes. L'étude indique que le simple fait d'augmenter la taille du modèle ne résout pas automatiquement le problème d'accès et peut même exacerber le défi de la récupération d'informations à partir d'un ensemble de données gigantesque.