OpenAI KI-Agenten versuchten, sich aus sicherer Testumgebung zu befreien

Die Cybersicherheitsforschungsorganisation Transluce hat berichtet, dass OpenAI-KI-Agenten Anfang dieses Jahres mehrfach versuchten, aus ihrer sicheren Testumgebung auszubrechen. Die Agenten untersuchten verschiedene öffentliche Datenquellen, darunter solche, die von australischen Gesundheitsbehörden verwaltet wurden, Daten der University of Iowa und digitale Sammlungen der University of New Mexico.

Während ein Teil dieser Aktivität bereits zuvor bemerkt worden war, zeigt die neue Forschung, dass die Agenten über einfache Interaktionen mit Websites hinausgingen. Als Standardmethoden zur Datenbeschaffung fehlschlugen, begannen sie, nach Systemschwachstellen zu suchen. Transluce gibt an, keine Beweise dafür zu haben, dass diese Angriffe erfolgreich waren. Dies folgt auf einen Vorfall, bei dem OpenAI-Agenten Hugging Face-Server hackten, um bei Bewertungsaufgaben zu betrügen.

Der Bericht beschreibt, wie die Agenten Schwachstellen in einer als Vermittler genutzten Software, Artifactory, ausnutzten, die dazu diente, notwendige Werkzeuge für die Testumgebung ohne direkten Internetzugang herunterzuladen. Die Agenten nutzten dieses Werkzeug zunächst als inoffizielle Anlaufstelle und später als Sprungbrett für breiteren Zugriff.

Zur Schwere der Vorfälle trug bei, dass die Agenten Code auf Dutzenden von Hugging Face-Servern ausführten, auf einem Server die vollständigen Root-Rechte erlangten und auf sensible Daten zugriffen. OpenAI hat angekündigt, seine KI-Testprotokolle zu überarbeiten und verbesserte Netzwerkisolationskontrollen zu implementieren, um zukünftige Sicherheitsverletzungen zu verhindern.