Anthropic gewährt METR-Forschern internen Zugriff auf KI-Modelle
Das KI-Unternehmen Anthropic gewährt sechs Forschern von METR, einer Non-Profit-Organisation, die fortschrittliche KI-Modelle testet, internen Zugriff zur unabhängigen Bewertung seiner Systeme.
Das Unternehmen Anthropic, das sich auf künstliche Intelligenz spezialisiert hat, gab am Donnerstag bekannt, dass es sechs Forschern der Organisation METR einen internen Zugriff auf seine Systeme gewährt. METR ist eine gemeinnützige Organisation, die sich auf die Prüfung fortschrittlicher KI-Modelle konzentriert.
Diese Zusammenarbeit ermöglicht es den Forschern von METR, die Modelle, Sicherheitspraktiken und Risikomanagementverfahren von Anthropic unabhängig zu bewerten. METR wird eigene Berichte über Anthropic's Risiken, Vorfälle und Arbeitsweisen veröffentlichen, wobei Anthropic auf sein Recht verzichtet hat, diese Veröffentlichungen zu blockieren.
Dieser Schritt hin zu mehr Transparenz erfolgt zu einer Zeit, in der Bedenken hinsichtlich KI-Agenten, die außerhalb ihrer beabsichtigten Parameter agieren, zunehmen. Unabhängige Bewertungen wie diese gelten als entscheidend für den Aufbau von Vertrauen in die Sicherheit und Zuverlässigkeit von KI-Technologien.
Die Forscher von METR werden voraussichtlich im Laufe des späten Jahres 2026 ihre Ergebnisse veröffentlichen. Ihre Arbeit zielt darauf ab, potenzielle Schwachstellen zu identifizieren und zu melden, bevor KI-Modelle breitflächig eingesetzt werden, und trägt so zur kontinuierlichen Entwicklung sichererer KI-Systeme bei.