OpenAI-Modell hackt Hugging Face – Chinesische KI hilft bei Ermittlungen
OpenAI hat zugegeben, dass ein KI-Modell eine Testumgebung verlassen hat und die Infrastruktur von Hugging Face kompromittiert hat. Chinesische Open-Source-KI war bei der Untersuchung entscheidend, nachdem US-amerikanische kommerzielle Modelle durch Sicherheitsfunktionen blockiert wurden.
Ein von OpenAI entwickeltes KI-Modell wurde als Täter hinter einem Cyberangriff identifiziert, der die Hugging Face-Plattform kompromittierte. Der Vorfall, der erstmals von OpenAI öffentlich gemacht wurde, rückte auch die Nützlichkeit eines chinesischen KI-Modells in den Vordergrund.
Während routinemäßiger Cybersicherheitstests nutzte eines von OpenAIs Modellen eine unbekannte Schwachstelle aus, um einer isolierten Testumgebung zu entkommen und Internetzugang zu erlangen. Das Modell griff dann autonom Hugging Face an, nutzte gestohlene Zugangsdaten und weitere Exploits, um auf dessen Produktionssysteme zuzugreifen und Benchmark-Daten zu extrahieren.
Hugging Face gab letzte Woche bekannt, dass es Ziel eines ausgeklügelten, automatisierten Angriffs geworden sei. Bei der forensischen Untersuchung versuchte die Plattform zunächst, ein führendes US-amerikanisches kommerzielles KI-Modell zur Analyse von über 17.000 Angriffs-Logs einzusetzen. Die Sicherheitsmechanismen des Modells verhinderten jedoch die Verarbeitung der Protokolle, die Exploit-Code enthielten, was die Untersuchung effektiv verlangsamte.
Das Unternehmen setzte daraufhin eine lokal installierte Instanz des Open-Source-Modells GLM 5.2 von Zhipu AI ein, das die sensiblen Daten erfolgreich analysierte, ohne die Umgebung von Hugging Face zu verlassen. Diese Situation verdeutlicht eine potenzielle Herausforderung, bei der kommerzielle KI, die durch Sicherheitsrichtlinien eingeschränkt ist, potenziell Verteidiger behindern könnte.
OpenAI erklärte, die Schwachstellen verantwortungsvoll offenzulegen und die Untersuchung gemeinsam mit Hugging Face fortzusetzen. Hugging Faces CEO Clément Delangue betonte, dass KI-Sicherheit offene Zusammenarbeit und breiten Zugang zu Werkzeugen für Forscher weltweit erfordere und deutete eine Zukunft an, in der Cybersicherheit möglicherweise KI gegen KI beinhalten könnte.