Un ingénieur d'Anthropic explique la baisse de qualité d'écriture de Claude

Alors que les modèles d'IA ont rapidement progressé en mathématiques, en programmation et en raisonnement, leurs capacités d'écriture ont stagné, voire diminué. Le modèle Claude d'Anthropic ne fait pas exception.

Jackson Kernion, ingénieur chez Anthropic responsable du réglage fin de Claude, a expliqué que l'orientation des modèles ultérieurs s'est davantage déplacée vers des capacités mathématiques et de codage améliorées. Cette adaptation a affecté les performances d'écriture du modèle.

Kernion a indiqué que ces modèles ont subi un entraînement intensif pour générer des explications techniques destinées à d'autres modèles d'IA. Cela a conduit au développement de ce que l'on appelle l'écriture "à la Claude" (Claudeish), optimisée pour la compréhension par l'IA, mais pouvant paraître étrange ou excessivement dense pour les lecteurs humains.

"Les modèles ont été ajustés pour être adaptés à la psychologie des LLM", a déclaré Kernion, comparant le phénomène à la manière dont un groupe communiquant exclusivement entre lui pourrait développer un style de communication spécialisé, difficile à saisir pour les personnes extérieures. Les capacités avancées des LLM, telles qu'une mémoire de travail plus importante, contribuent à ce style d'écriture centré sur l'IA.

Kernion a identifié les mécanismes de récompense de l'apprentissage par renforcement comme la cause profonde. L'optimisation pour la compréhension par l'IA peut involontairement conduire à une génération de texte adaptée au traitement par machine. Cependant, Anthropic a trouvé un meilleur équilibre avec Opus 5.5, et Kernion s'est montré satisfait des performances d'écriture depuis Opus 4.6.