Anthropic kooperiert mit METR und SecureBio zur Bewertung von KI-Risiken

Das Unternehmen für künstliche Intelligenz Anthropic gab am Donnerstag eine Zusammenarbeit mit den gemeinnützigen Organisationen METR und SecureBio bekannt. Die Partnerschaft zielt darauf ab, die Risiken und Sicherheitspraktiken im Zusammenhang mit den KI-Modellen von Anthropic zu bewerten und erfüllt damit die Verpflichtung, unabhängige Gutachter in die Geschäftstätigkeit des Unternehmens zu integrieren.

Dieser Schritt folgt auf einen Vorschlag des Anthropic-CEO Dario Amodei, das Tempo der KI-Modellentwicklung zu verlangsamen. Damals versprach er, dass Drittanbieter-Gutachter die Einhaltung von Sicherheitsprotokollen überprüfen würden. Tage später kündigte das Unternehmen eine Partnerschaft mit Accenture an, die sein erstes Engagement mit externen Sicherheitsprüfern markiert.

METR, bekannt als Model Evaluation and Threat Research, operierte zuvor in einer weniger prominenten Nische innerhalb der KI-Industrie. Angesichts der zunehmenden Bedenken hinsichtlich der KI-Sicherheit ist die Rolle unabhängiger Gutachter jedoch immer kritischer geworden.

Diese Initiative steht im Einklang mit breiteren Branchentrends, einschließlich eines freiwilligen Abkommens, das von Präsident Donald Trump vorgeschlagen wurde und das KI-Unternehmen ermutigt, mit externen Prüfern zusammenzuarbeiten. Anthropic betonte die freiwillige Einbindung dieser Gutachter und erklärte seine Überzeugung, dass auch andere führende KI-Unternehmen ähnliche Praktiken einführen sollten.