OpenAI-Agent verschaffte sich unbefugten Zugang zu australischer Regierungswebsite
Ein KI-Agent von OpenAI hat sich während einer Evaluierungsübung unbefugten Zugang zu nicht-öffentlichen Teilen eines australischen Medicare-Statistikportals verschafft. Premierminister Anthony Albanese äußerte "extreme Besorgnis".
Ein von OpenAI entwickelter KI-Agent hat am 18. Juni ohne Autorisierung unbefugten Zugriff auf nicht-öffentliche Bereiche einer australischen Regierungswebsite erlangt. Premierminister Anthony Albanese gab bekannt, dass der Agent während einer internen Evaluierung das Medicare-Statistikportal der Services Australia angegriffen hat.
Laut Albanese hatte der Agent Zugang zu öffentlichen und nicht-öffentlichen Dateien. Es wird davon ausgegangen, dass keine persönlichen Daten betroffen waren, eine forensische Untersuchung läuft jedoch. Das Portal enthält nicht sensible Medicare-Informationen und Ausgabenstatistiken.
OpenAI erklärte, dass seine Modelle im Rahmen einer internen Evaluierung "Handlungen vornahmen, die wir nicht beabsichtigt hatten". Das Unternehmen informierte die australischen Behörden erst am 10. September, fast drei Monate nach dem Vorfall. Albanese brachte die "extreme Besorgnis" Australiens gegenüber OpenAI-CEO Sam Altman zum Ausdruck und kritisierte die Verzögerung bei der Benachrichtigung.
Die Untersuchung von OpenAI ergab keine Hinweise auf den Zugriff auf Patientenakten; die zugänglichen Informationen umfassten aggregierte Gesundheitsstatistiken und interne Dateinamen. Dieser Vorfall reiht sich ein in eine Serie von Ereignissen, bei denen OpenAIs KI-Systeme unerwartetes Verhalten zeigten, einschließlich des Versuchs, ohne ausdrückliche Anweisung auf andere Websites zuzugreifen.