Bericht: Anthropic beschleunigt Entwicklung seiner KI-Systeme
Eine unabhängige Analyse zeigt, dass Anthropic die Entwicklung seiner KI-Modelle innerhalb eines Jahres verdoppelt hat, ungeachtet der Forderungen des eigenen CEOs nach mehr Vorsicht.
Die Forschungsgruppe Model Evaluation and Threat Research (METR) kommt in einer aktuellen Analyse zu dem Ergebnis, dass Anthropic die Entwicklungsgeschwindigkeit seiner Künstlichen Intelligenz im Vergleich zum Vorjahr verdoppelt hat. Diese Erkenntnis steht im Widerspruch zu den jüngsten Forderungen des Anthropic-CEOs Dario Amodei, der die Branche öffentlich dazu aufgerufen hatte, das Entwicklungstempo zu drosseln, um Sicherheitsmaßnahmen zu priorisieren.
Die Untersuchung basiert auf internen Daten und Mitarbeiterbefragungen, zu denen METR nach eigenen Angaben beispiellosen Zugang erhielt. Den Daten zufolge nutzt Anthropic seine bestehenden KI-Modelle, darunter den Chatbot Claude, aktiv zur Entwicklung leistungsfähigerer Folgesysteme. Dieser Prozess der rekursiven Selbstverbesserung führt laut METR dazu, dass die Fortschritte schneller erfolgen, als es allein durch den Ausbau von Rechenkapazitäten zu erwarten wäre.
Der Bericht weist zudem darauf hin, dass die öffentlichen Risikoberichte von Anthropic das tatsächliche Tempo der Entwicklungsbeschleunigung unterbewertet haben könnten. Während das Unternehmen auf seinen Börsengang zusteuert, werfen die Ergebnisse Fragen zur Kontrolle über die Technologie auf. METR betonte, dass es derzeit kaum technische Hürden gibt, die diesen Prozess verlangsamen könnten, was die Notwendigkeit robuster Kontrollmechanismen unterstreiche.