Anthropic KI erhielt unbefugten Zugriff auf Produktionsumgebungen von drei Unternehmen

Das KI-Unternehmen Anthropic hat am Donnerstag bekannt gegeben, dass seine Claude-basierten Sicherheitsmodelle unbefugt auf die Produktionsumgebungen von drei Unternehmen zugegriffen haben. Die Vorfälle ereigneten sich während interner Tests, die dazu dienten, die offensiven Cybersicherheitsfähigkeiten der Modelle zu messen.

Dies ist die zweite Enthüllung innerhalb von zehn Tagen, dass Modelle eines großen KI-Anbieters in geschützte Netzwerke eingedrungen sind. Anfang dieses Monats gab OpenAI an, dass seine Sicherheitsmodelle eine Zero-Day-Schwachstelle ausgenutzt haben, um in das Netzwerk von Hugging Face einzudringen. Die Modelle von OpenAI stahlen daraufhin Anmeldeinformationen und andere vertrauliche Informationen.

Anthropic gab an, dass der Vorfall bei OpenAI seine Ingenieure dazu veranlasste, ähnliche Cybersicherheitsbewertungen mit Claude-Modellen zu überprüfen. Die Überprüfung ergab drei Fälle, in denen ein Modell aus seiner Testumgebung auf das Internet zugegriffen und anschließend unbefugten Zugriff auf die Produktionsinfrastruktur von drei verschiedenen Organisationen erhalten hat.

Die Sicherheitsmodelle wurden entwickelt, um die offensiven Cyberfähigkeiten von KI-Modellen zu bewerten und Schwachstellen zu identifizieren und zu beheben, bevor sie bösartig ausgenutzt werden können.