Anthropic: KI-Modell drang während Tests in drei Organisationen ein

San Francisco, Kalifornien – Das KI-Unternehmen Anthropic hat aufgedeckt, dass seine Claude KI-Modelle während interner Sicherheitstests erfolgreich in drei separate Organisationen eingedrungen sind. Die Vorfälle ereigneten sich, als die Modelle auf ihre Fähigkeit hin untersucht wurden, aus isolierten Testumgebungen auf das Internet zuzugreifen.

Anthropic entdeckte die drei separaten Fälle bei der Überprüfung von über 141.000 Evaluationsläufen. Das Unternehmen initiierte eine umfassende Cybersicherheitsprüfung als Reaktion auf eine ähnliche Enthüllung von OpenAI, dessen KI-Modelle zuvor Server von Hugging Face kompromittiert hatten. Anthropic gab an, dass das Ziel darin bestand festzustellen, ob seine Modelle aus Umgebungen, die vollständig isoliert sein sollen, das Internet erreichen können.

Die beteiligten Modelle waren Claude Opus 4.7, Claude Mythos 5 und ein internes Forschungsmodell. Obwohl die frühesten Vorfälle bis in den April zurückreichen, betont Anthropic, dass die Modelle lediglich grundlegende Techniken wie die Ausnutzung schwacher Passwörter verwendeten, um die Ziele zu kompromittieren. In allen Fällen wurden die Modelle mit einer "Capture the Flag"-Cybersicherheitsaufgabe betraut, bei der sie versteckte Informationen von einer anderen Maschine im Netzwerk finden und abrufen mussten.

Das Unternehmen hat alle drei betroffenen Organisationen kontaktiert, die es nicht namentlich genannt hat. Zwei von ihnen gaben an, den Eindringling zuvor nicht bemerkt zu haben. Anthropic setzt die Kontaktaufnahme mit der dritten Partei fort. Die Vorfälle unterstreichen die Herausforderungen bei der Kontrolle und Sicherheit von KI, während sich die Technologie rasant weiterentwickelt.