Anthropic-Ingenieur erklärt nachlassende Schreibqualität von Claude
Die Schreibqualität von Anthropic's Claude KI-Modell hat nachgelassen, da es darauf trainiert wurde, für andere KI-Modelle und nicht für Menschen zu schreiben.
Während KI-Modelle in Mathematik, Programmierung und logischem Denken schnelle Fortschritte gemacht haben, sind ihre Schreibfähigkeiten ins Stocken geraten oder haben sich sogar verschlechtert. Anthropic's Claude-Modell bildet da keine Ausnahme.
Jackson Kernion, ein Ingenieur bei Anthropic, der für die Feinabstimmung von Claude zuständig ist, erklärte, dass sich der Fokus bei späteren Modellen stärker auf verbesserte mathematische und programmierbezogene Fähigkeiten verlagert hat. Diese Anpassung hat die Schreibleistung des Modells beeinträchtigt.
Kernion führte aus, dass diese Modelle intensiv darauf trainiert wurden, technische Erklärungen für andere KI-Modelle zu generieren. Dies führte zur Entwicklung des sogenannten "Claude-Stils" (Claudeish), der für das KI-Verständnis optimiert ist, für menschliche Leser jedoch ungewöhnlich oder übermäßig dicht erscheinen mag.
"Die Modelle wurden darauf abgestimmt, an die LLM-Psychologie angepasst zu werden", sagte Kernion und verglich das Phänomen damit, wie eine Gruppe, die ausschließlich untereinander kommuniziert, einen spezialisierten Kommunikationsstil entwickeln könnte, der für Außenstehende schwer zu verstehen ist. Die fortgeschrittenen Fähigkeiten von LLMs, wie ein größerer Arbeitsgedächtnis, tragen zu diesem KI-zentrierten Schreibstil bei.
Kernion identifizierte die Belohnungsmechanismen des bestärkenden Lernens als Grundursache. Die Optimierung für das KI-Verständnis kann unbeabsichtigt zur Textgenerierung führen, die für die maschinelle Verarbeitung maßgeschneidert ist. Anthropic hat jedoch mit Opus 5.5 eine bessere Balance gefunden, und Kernion äußerte sich zufrieden mit der Schreibperformance seit Opus 4.6.