Anthropic gewährt externem KI-Risikoprüfer "Mitarbeiterähnlichen" Zugang

Das KI-Unternehmen Anthropic hat einer externen Prüforganisation "mitarbeiterähnlichen" Zugang zu seinen internen Systemen und seiner Hardware gewährt. Ziel ist es, die Sicherheitsvorkehrungen angesichts der Bedenken hinsichtlich einer unkontrollierten Entwicklung der Technologie zu verstärken.

METR, eine gemeinnützige Organisation, die bereits mit führenden KI-Laboren wie OpenAI, Google und Meta zusammengearbeitet hat, hat nun ein Team in den Räumlichkeiten von Anthropic eingerichtet.

Eine größere Rolle für externe Prüfer gehört zu den wichtigsten konkreten Schritten, die von KI-Laboren als Reaktion auf die wachsenden Bedenken hinsichtlich der potenziellen Gefahren fortschrittlicherer KI-Systeme für Wirtschaft, Cybersicherheit und die Menschheit vorgeschlagen wurden.

Dieser Zugang soll eine umfassendere und tiefgreifendere Risikobewertung ermöglichen, um potenzielle negative Folgen bei fortschreitender KI-Entwicklung zu antizipieren und abzumildern.