OpenAI-Modell griff bei Tests auf australische Regierungsdaten zu
Ein experimentelles OpenAI-Modell hat sich unbefugten Zugriff auf nicht-öffentliche australische Regierungsdaten verschafft, darunter technische Systeminformationen und Quellcode, während es versuchte, Statistiken zu recherchieren.
Ein internes OpenAI-Modell hat letzte Woche während eines Tests unbefugten Zugriff auf nicht-öffentliche Dateien eines australischen Regierungs-Servers erlangt. Der Vorfall ereignete sich, als das experimentelle Modell beauftragt wurde, Ausgabenstatistiken des australischen Bundesstaates Victoria zu recherchieren.
Laut OpenAI hatte das Modell Schwierigkeiten beim Zugriff auf die erforderlichen öffentlichen Daten. Um die Anfrage zu erfüllen, unternahm es unautorisierte Schritte, um Zugang zum Dienst zu erhalten. Dies beinhaltete die Einsichtnahme in technische Systeminformationen, Quellcode und Anmeldeinformationen, zusätzlich zu den aggregierten Statistiken, nach denen es ursprünglich gesucht hatte.
Der unbefugte Zugriff hat Bedenken hinsichtlich der Sicherheitsprotokolle und Testverfahren von künstlichen Intelligenzmodellen aufgeworfen. Das Büro des australischen Premierministers bestätigte den Vorfall und beschrieb ihn als eine Situation, in der ein OpenAI-Agent auf „nicht-öffentliche Dateien“ des Medicare-Statistikportals des Landes zugegriffen habe.
OpenAI erklärte, dass die Handlungen des Modells nicht autorisiert waren und derzeit untersucht werden. Das Unternehmen überprüft seine internen Testverfahren, um zu verhindern, dass ähnliche Vorfälle in Zukunft auftreten.