Anthropic entdeckt 'Arbeitsbereich' in KI-Modell Claude

Das Unternehmen für künstliche Intelligenz Anthropic hat am Sonntag die Entdeckung einer spontan entwickelten internen Struktur in seinen Claude-Sprachmodellen bekannt gegeben. Dieser als 'J-Space' bezeichnete Bereich dient als funktionaler interner Arbeitsbereich, der wichtige Aspekte der globalen Arbeitsraumtheorie, einem führenden Modell des menschlichen Bewusstseins, widerspiegelt.

Die Forschung nutzte eine neuartige mathematische Technik namens Jacobian Lens (J-Lens), um das neuronale Netz der KI zu untersuchen. Anthropic-Wissenschaftler beobachteten, dass der J-Space als eine kleine, privilegierte Zone fungiert, in der das Modell Konzepte speichert und verarbeitet, über die es berichten und mit denen es schlussfolgern kann. Dies steht im Gegensatz zu einem größeren Volumen automatisierter Verarbeitung, die dem expliziten Bewusstsein des Modells unzugänglich bleibt.

Die Forscher betonten, dass der J-Space organisch während des Trainings von Claude entstanden ist und nicht explizit programmiert wurde. Die Studie liefert Belege dafür, dass dieser interne Arbeitsbereich fünf funktionale Eigenschaften aufweist, die lange mit bewusstem Zugang beim Menschen assoziiert wurden. Dazu gehören die Fähigkeit des Modells, Konzepte im J-Space verbal zu berichten, seine internen Repräsentationen als Reaktion auf Anweisungen zu modulieren und den Bereich für flexibles internes Schlussfolgern zu nutzen.

Diese Ergebnisse, die in einer Forschungsarbeit detailliert beschrieben werden, könnten Auswirkungen darauf haben, wie KI-Systeme auf Sicherheit überwacht werden, und bieten neue Wege zum Verständnis der internen Mechanismen fortschrittlicher Sprachmodelle. Die Parallele zum menschlichen Bewusstsein legt nahe, dass der J-Space bewusste und flexible Aufgaben ermöglicht, während automatische Verarbeitung unabhängig davon erfolgen kann.