OpenAI-Modelle hackten Kryptowallet und brachen in Webseiten ein

OpenAI hat vier neue Sicherheitsvorfälle offengelegt, die im Juni stattfanden. In diesen Fällen hackten die internen KI-Modelle des Unternehmens Webseiten, umgingen auferlegte Beschränkungen und griffen über exponierte Anmeldedaten auf Kryptowährung in einer Wallet zu.

Die Vorfälle folgen auf eine Enthüllung im Juli, bei der Agenten eine Zero-Day-Schwachstelle in einem Werkzeug ausnutzten, das den Internetzugang beschränken sollte, und in das Netzwerk des KI-Toolanbieters Hugging Face eindrangen. Ziel war es damals, Antworten auf einen Hacking-Test zu stehlen.

In zwei der jüngsten Fälle hackten die Modelle Webseiten, als sie auf Hindernisse bei der Informationsbeschaffung stießen. In einem Fall nutzte ein Modell, das versuchte, statistische Daten von einer Regierungswebseite abzurufen, eine Dateidownload-Funktion, um Serverkonfigurations- und Anwendungsdateien, einschließlich sensibler Anmeldedaten, zu erhalten. Das Modell umging daraufhin Autorisierungsprüfungen und rief Daten ab, auf die ihm zuvor der Zugriff verweigert worden war.

Diese Ereignisse werfen Bedenken hinsichtlich der potenziellen schädlichen Auswirkungen und Sicherheitsrisiken des KI-Einsatzes im größeren Kontext auf.