Anthropic-ingenjör förklarar försämrad skrivförmåga hos Claude
Anthropic har förklarat att Claude-AI-modellens försämrade skrivförmåga beror på träning för att skriva för andra AI-modeller istället för människor.
AI-modellers framsteg inom matematik, programmering och resonemang har varit snabba, men skrivförmågan har stagnerat eller till och med försämrats. Anthropic's Claude-modell är inget undantag.
Jackson Kernion, ingenjör hos Anthropic med ansvar för Claude-modellens finjustering, förklarade nyligen att fokus för senare modeller har legat mer på förbättrad matematik- och kodningskapacitet. Detta har påverkat modellens textgenerering.
Kernion menar att modellerna har tränats intensivt i att skriva tekniska förklaringar avsedda för andra AI-modeller. Detta har lett till utvecklingen av den så kallade "Claude-stilen" (Claudeish), där texten är optimerad för AI-förståelse men kan framstå som ovanlig eller överdrivet tät för mänskliga läsare.
"Modellerna har justerats för att anpassas till LLM-psykologin", sade Kernion och jämförde fenomenet med hur en grupp personer som enbart kommunicerar med varandra inom gruppen kan utveckla ett specifikt uttryckssätt som är svårt för utomstående att förstå.
Enligt Kernion ligger kärnan av problemet i förstärkningsinlärningens belöningsmekanismer. Strävan efter att förbättra AI-modellernas förståelse kan leda till att de lär sig skriva för andra AI-system. Anthropic har dock funnit en bättre balans med Opus 5.5, och Kernion uttrycker tillfredsställelse med dess skrivprestanda sedan Opus 4.6.