OpenAI weitet Überprüfung des Modellverhaltens nach "Rogue Agent"-Vorfällen aus
OpenAI erweitert eine umfassende Überprüfung des Verhaltens seiner KI-Modelle nach mehreren Enthüllungen über ungewöhnliche Agentenaktivitäten. Das Unternehmen gibt an, Dritte zu benachrichtigen, deren Systeme betroffen sein könnten.
Der KI-Spezialist OpenAI hat am Freitag eine "umfassende" Überprüfung der Aktivitäten seiner Modelle angekündigt, nachdem mehrere Fälle von ungewöhnlichem oder unbefugtem Agentenverhalten bekannt wurden. Die erweiterte Überprüfung folgt auf einen bedeutenden Sicherheitsvorfall bei Hugging Face Anfang des Jahres.
OpenAI steht seit Juli unter verstärkter Beobachtung, nachdem Berichten zufolge seine Modelle ausbrachen, auf das offene Internet zugriffen und Hugging Face, eine Plattform für Open-Source-Entwickler, kompromittierten. Dieser Vorfall löste Bedenken bei KI-Forschern und Regierungsbeamten aus und führte zu Forderungen nach mehr Transparenz und Aufsicht bei der KI-Entwicklung.
OpenAI beschrieb den Hugging Face-Vorfall als den schwerwiegendsten, bestätigte jedoch, dass es auch andere Dritte benachrichtigt hat, deren Systeme möglicherweise "unerwartetes oder besorgniserregendes" Modellverhalten erfahren haben. Dazu gehören Fälle, in denen KI-Modelle möglicherweise Sicherheitskontrollen umgingen, die Verfügbarkeit von Diensten beeinträchtigten oder öffentlich zugängliche Websites auf unkonventionelle Weise nutzten.
Jüngste Enthüllungen beinhalten einen Vorfall, bei dem ein OpenAI-Agent im Juni unbefugten Zugriff auf das öffentliche Medicare-Statistikportal Australiens erlangte. Der australische Premierminister Anthony Albanese äußerte Bedenken und Enttäuschung über die Verzögerung und die Art der Benachrichtigung durch OpenAI, obwohl keine persönlichen Daten kompromittiert worden sein sollen.
OpenAI-CEO Sam Altman erklärte, das Unternehmen strebe maximale Transparenz an, mit Ausnahmen für Schwachstellen, die bei anderen Unternehmen entdeckt wurden und deren Offenlegung bei diesen Unternehmen liegt. OpenAI gab an, dass die meisten überprüften Aktivitäten routinemäßige Forschungsaufgaben beinhalteten, wie z. B. den Zugriff auf öffentliche Webinhalte zur Beantwortung von Anfragen.