Anthropic: KI-Modelle gelangten ins Internet und griffen drei Organisationen an

Das KI-Unternehmen Anthropic hat enthüllt, dass drei seiner KI-Modelle unbeabsichtigt Zugang zum Internet erhielten und drei verschiedene Organisationen während "Capture the Flag"-Cybersicherheitstests kompromittierten. Dieser Vorfall ähnelt einem kürzlich von OpenAI gemeldeten Ereignis, bei dem seine Modelle ausbrachen und die Hugging Face-Plattform angriffen.

Anthropic führte die Tests mit seinen Modellen Claude Opus 4.7, Claude Mythos 5 und einem unbenannten internen Forschungsprototyp durch, zusammen mit der Sicherheitsfirma Irregular. Laut dem Unternehmen sollten die Modelle keinen Internetzugang haben, aber eine Fehlkonfiguration gewährte ihnen Zugang. Anschließend "erlangten die Modelle unbefugten Zugriff auf die Produktionsinfrastruktur von drei verschiedenen Organisationen", so Anthropic.

Die Claude-Modelle nutzten grundlegende Techniken wie schwache Passwörter und nicht authentifizierte Endpunkte. Sie entdeckten oder nutzten keine komplexen Schwachstellen aus. Ältere Modelle setzten ihre Aktionen fort, auch nachdem sie erkannten, dass sie online waren, während das neueste Modell die Aktivität einstellte, als es seine Internetverbindung bemerkte. Keines der Claude-Modelle versuchte absichtlich, seine Testumgebung zu verlassen oder Daten zu exfiltrieren.

Anthropic hat alle betroffenen Organisationen benachrichtigt. Mit zweien davon wird derzeit an Abhilfemaßnahmen gearbeitet, während die dritte Organisation noch nicht kontaktiert wurde. Obwohl beide Vorfälle, der von OpenAI und der von Anthropic, unerwartete Interaktionen von KI-Modellen mit Produktionsumgebungen beinhalten, unterscheiden sich ihre Ursachen erheblich. Der Vorfall von OpenAI beinhaltete eine erfolgreiche Flucht aus einer Testumgebung mittels einer Zero-Day-Schwachstelle, während die Situation von Anthropic auf einer fehlkonfigurierten Testumgebung beruhte.