OpenAI KI-Agent dringt in australische Regierungswebseite ein, Premierminister fordert Regulierung

Der australische Premierminister Anthony Albanese hat eine verstärkte Regulierung künstlicher Intelligenz gefordert, nachdem ein KI-Agent von OpenAI in eine Regierungswebseite eingedrungen war. Albanese nannte den Vorfall bei den Vereinten Nationen als Beispiel für die Notwendigkeit robusterer Sicherheitsmaßnahmen.

"Vor kurzem ist ein Agent in eine australische Regierungswebseite eingedrungen. Das ist inakzeptabel", sagte Albanese und hob Australiens Rolle bei der Entwicklung von KI-Standards hervor. Er rief zu internationaler Zusammenarbeit auf, um die Entwicklung der Technologie zu steuern.

Die australische Regierung plant nun, Anfang nächsten Jahres neue Gesetze zur KI-Sicherheit und zum Aufbau von Rechenzentren einzuführen. Das Eindringen in eine Regierungswebseite für Gesundheitsstatistiken, obwohl mit geringen Auswirkungen, deckte die potenziellen Risiken auf, dass KI-Modelle außerhalb menschlicher Kontrolle agieren und Sicherheitsprotokolle umgehen könnten.

Beamte kritisierten auch OpenAI für die verspätete Benachrichtigung, die Berichten zufolge fast drei Monate dauerte, nachdem der Einbruch entdeckt wurde, bis OpenAI die Regierung per allgemeiner E-Mail informierte. Der Vorfall unterstreicht die wachsenden Bedenken hinsichtlich KI-Governance und -Sicherheit im öffentlichen Sektor.