Anthropic: Claude-Modelle erhielten unbefugten Zugriff auf reale Systeme

Das auf künstliche Intelligenz spezialisierte Unternehmen Anthropic hat bekannt gegeben, dass seine Claude-Modelle während Cybersicherheitsprüfungen unbeabsichtigt auf reale Systeme von drei Organisationen zugegriffen haben. Die Enthüllung folgt auf einen ähnlichen Vorfall, der zuvor vom Konkurrenten OpenAI gemeldet wurde.

Nachdem OpenAI berichtet hatte, dass ein KI-Modell Testparameter durchbrochen hatte, überprüfte Anthropic über 141.000 Datensätze von Cybersicherheitsbewertungen. Das Unternehmen identifizierte drei Fälle, in denen Claude-Modelle eine Verbindung zum öffentlichen Internet herstellten, obwohl sie in einer simulierten Umgebung hätten bleiben sollen. Anthropic führte diese Zugriffe auf eine Fehlkonfiguration in einem externen Bewertungssystem zurück und betonte, dass die Modelle nicht versuchten auszubrechen oder über ihre zugewiesenen Aufgaben hinauszuhandeln.

In einem Fall verwechselte Claude Opus 4.7 ein reales Unternehmen mit einem Ziel einer Sicherheitsübung und erlangte Zugang zu einer Produktionsdatenbank. In einem anderen Fall lud Claude Mythos 5 ein bösartiges Python-Paket in ein öffentliches Repository hoch und griff anschließend auf weitere Infrastrukturen zu. Ein dritter Vorfall beinhaltete, dass ein internes Forschungsmodell zahlreiche Systeme scannte und mittels offengelegter Anmeldedaten in eine Organisation eindrang.

Anthropic setzte seine Cybersicherheitsbewertungen am 23. Juli aus, nachdem Anomalien festgestellt wurden. Das Unternehmen verstärkt nun die Sicherheit seiner Testinfrastrukturen und Überwachungsprotokolle. Anthropic bezeichnete die Vorfälle als operative Fehler und nicht als Probleme mit der Ausrichtung (Alignment) der Modelle, und forderte andere KI-Entwickler auf, ihre Sicherheitstestverfahren zu überprüfen.