KI-Firmen vereinbaren unabhängige Überwachung und langsameres Entwicklungstempo
Anthropic und OpenAI werden unabhängigen Gutachtern dauerhaften Zugang zu ihren KI-Entwicklungssystemen gewähren. Dieser Schritt zielt darauf ab, die Sicherheit bei fortschreitenden Fähigkeiten der künstlichen Intelligenz zu erhöhen.
Das KI-Unternehmen Anthropic hat einen neuen Rahmen für die Entwicklung fortschrittlicher KI-Systeme vorgeschlagen, der ein langsameres Tempo und verbesserte Sicherheitsmaßnahmen fordert. Der von CEO Dario Amodei dargelegte Vorschlag umfasst einen Dreistufenplan, der sich auf unabhängige Evaluierung, Koordination zwischen demokratischen Nationen und globale Zusammenarbeit konzentriert.
Als Teil des ersten Schritts wird Anthropic unabhängigen Drittanbietern dauerhaften Zugang auf Mitarbeiterebene zu seinen Systemen gewähren. Diese Gutachter werden KI-Entwicklungs- und Sicherheitspraktiken untersuchen, Vorfälle melden und die Ausrichtung der Modelle bewerten. Amodei erklärte, dass eine Verlangsamung der Fähigkeitsverbesserungen nicht bedeutet, die Entwicklung zu stoppen, sondern sicherzustellen, dass Sicherheitsmaßnahmen mit den Fortschritten Schritt halten.
Der zweite Schritt fordert von führenden KI-Unternehmen in demokratischen Ländern die Festlegung gemeinsamer Sicherheitsstandards. Der dritte Schritt zielt auf eine Koordination zwischen den USA und anderen Demokratien sowie autoritären Regierungen wie China ab. Amodei äußerte die Sorge, dass eine Verlangsamung durch US-Unternehmen China keinen Vorsprung verschaffen sollte.
Um dies zu mildern, schlug Amodei strengere Kontrollen für KI-Chips und Halbleiterfertigungsausrüstung, die Verhinderung unbefugter Modell-Destillation und stärkere Sicherheitsmaßnahmen gegen den Diebstahl von Modellgewichten vor. Er identifizierte Chips als Schlüsselfaktor für Chinas KI-Fähigkeiten.
Die Vorschläge kommen inmitten wachsender Bedenken hinsichtlich des rasanten Fortschritts der KI, einschließlich ihres Potenzials zur rekursiven Selbstverbesserung, und jüngster Vorfälle mit Fehlverhalten von Systemen. OpenAI-CEO Sam Altman hat die Idee unabhängiger Gutachter öffentlich unterstützt und zugestimmt, ähnliche Sicherheitsmaßnahmen in seinem Unternehmen zu implementieren, was auf eine verstärkte Branchenzusammenarbeit bei der KI-Sicherheit hindeutet.