Anthropic: KI-Modell Claude unterstützt eigene Weiterentwicklung

Das Unternehmen für künstliche Intelligenz Anthropic hat mitgeteilt, dass sein KI-Modell Claude bei der Entwicklung der nächsten Generation des Modells mithilft. Laut Unternehmen leitet Claude derzeit 26 % der Forschungs- und Entwicklungsarbeiten von Anthropic. Dies bedeutet, dass das Modell einen erheblichen Teil der Aufgaben "End-to-End von einem High-Level-Prompt" ausführen kann, während es unter menschlicher Aufsicht bleibt.

Ungefähr 90 % der Forschungs- und Entwicklungsarbeit des Unternehmens finden in "Zusammenarbeit" mit Claude statt. Anthropic erläuterte, dass dies bedeutet, dass das Modell "große Arbeitsblöcke unter enger menschlicher Anleitung" bewältigen kann. Diese Ankündigung erfolgt vor dem Hintergrund von Forderungen prominenter KI-Persönlichkeiten, darunter Anthropic CEO Dario Amodei, nach einer Verlangsamung der KI-Entwicklung aufgrund von Sicherheitsbedenken.

Anthropic betont zudem die Bedeutung von Transparenz in der KI-Entwicklung und weist darauf hin, dass beschleunigte Selbstverbesserungen bei KI-Modellen deren Verständnis und Kontrolle durch Menschen erschweren könnten. Das Unternehmen fordert andere KI-Entwickler auf, ähnliche Metriken öffentlich zu teilen, um eine bessere Verfolgung und einen Vergleich des KI-Fortschritts zu ermöglichen.

Der Beitrag des Modells zur Forschung ist rapide gestiegen. Im Februar leitete Claude keine Forschungsarbeit, aber im August war sein Anteil auf ein Viertel angewachsen. Anthropic erläuterte auch seine Überwachungsmaßnahmen und berichtete, dass im August rund 30.000 Agenten an Forschungs- und Ingenieuraufgaben beteiligt waren. Das Unternehmen hat sich zudem verpflichtet, externe Drittbewerter einzubeziehen, um seine Sicherheitsbemühungen zu überwachen.