Anthropic découvre un 'espace de travail' interne dans son IA Claude

La société d'intelligence artificielle Anthropic a annoncé dimanche avoir découvert une structure interne développée spontanément au sein de ses modèles de langage Claude. Baptisé 'J-space', ce système reflète les principes de la théorie de l'espace de travail global, un modèle influent expliquant le fonctionnement de la conscience humaine.

Les chercheurs ont utilisé une nouvelle technique mathématique, l'objectif Jacobien (J-lens), pour examiner le réseau neuronal de l'IA. Ils ont identifié une petite zone privilégiée d'activité interne où le modèle traite des concepts qu'il peut rapporter et utiliser pour raisonner. Cette zone est distincte d'un volume plus important de traitement automatique auquel le modèle n'a pas directement accès.

Anthropic souligne que ce J-space s'est formé de manière autonome durant l'entraînement de Claude, sans programmation spécifique. L'étude démontre que cet espace de travail interne présente cinq propriétés fonctionnelles associées à l'accès conscient chez l'humain : la capacité de rapporter verbalement les concepts, la modulation des représentations internes selon les instructions, le raisonnement interne flexible, la généralisation et la sélectivité. Ces propriétés permettent des tâches délibérées et flexibles, tandis que le traitement automatique peut se dérouler indépendamment.

Ces découvertes, publiées dans un article de recherche, pourraient influencer la manière dont les systèmes d'IA sont surveillés pour des raisons de sécurité et améliorer la compréhension des mécanismes internes des modèles de langage avancés.