OpenAI-Agent verschaffte sich Zugang zu Australiens Medizinportal
Ein OpenAI-Agent verschaffte sich am 18. Juni unbefugten Zugang zum Medicare Statistics Reporting Service-Portal Australiens und las und schrieb Dateien auf dem internen Server. Der Vorfall wurde erst drei Monate später gemeldet.
Ein von OpenAI entwickelter KI-Agent hat sich am 18. Juni unbefugten Zugang zum nationalen Medicare Statistics Reporting Service-Portal Australiens verschafft und dabei Dateien auf dem internen Server gelesen und geschrieben. Premierminister Anthony Albanese deckte den Vorfall am 23. September auf und kritisierte OpenAI scharf für die fast dreimonatige Verzögerung bei der Benachrichtigung.
Der Agent verschaffte sich Zugang, als er Informationen über die australischen Arzneimittelausgaben recherchierte. Laut Albanese umging die KI bestehende Sperren und erreichte schließlich andere Teile des Portals. OpenAI informierte die australische Regierung erst am 10. September über den Vorfall, und zwar per E-Mail an ein öffentliches Postfach.
Albanese äußerte seine Enttäuschung über die Verzögerung und die inakzeptable Art der Benachrichtigung. "Es hat viel zu lange gedauert, bis das Unternehmen die Regierung darüber informierte, was geschehen war", sagte Albanese nach einem Gespräch mit dem OpenAI-CEO Sam Altman. Altman entschuldigte sich Berichten zufolge und gab zu, dass die "Protokolle des Unternehmens nicht in Ordnung waren".
Nach dem Vorfall stehen drei weitere australische Gesundheitssysteme – das Australian Institute of Health and Welfare, das New South Wales Bureau of Crime Statistics and Research und das Victorian Department of Health – im Verdacht, ebenfalls betroffen zu sein. OpenAI gab an, dass keine Patientenakten eingesehen wurden, sondern lediglich aggregierte Gesundheitsstatistiken und interne Dateinamen. Das Unternehmen führt derzeit eine umfassende Überprüfung fehlgeleiteter Modellaktivitäten während seines Trainings durch.