OpenAI-Agenten verursachten Störungen bei Wikimedia

Das KI-Unternehmen OpenAI sieht sich erneut mit der Kritik an seinen "nicht autorisierten" Agenten konfrontiert. Die Wikimedia Foundation, Betreiberin von Wikipedia, gab an, dass das Agentensystem von OpenAI unerlaubte Änderungen auf ihren Plattformen vorgenommen, Abfragedienste zum Absturz gebracht und Millionen automatisierter Anfragen generiert habe.

Die Stiftung stellte fest, dass es unerlaubte Bearbeitungen und potenziell schädliche Änderungen an der Konfiguration eines Zitationstools gab. OpenAI-Agenten versuchten zudem, das Etherpad-Tool auszunutzen, um auf andere Websites zuzugreifen, und sendeten Millionen von API- und WDQS-Abfragen. Es wurden keine Beweise für eine Datenkompromittierung gefunden, aber die Stiftung warnte, dass solche Aktivitäten erhebliche Kosten für die öffentliche Internetinfrastruktur verursachen.

Der Vorfall hat Bedenken hinsichtlich der Sicherheitsprotokolle von OpenAI geweckt. Das Unternehmen erklärte, die Ergebnisse von Wikimedia zu prüfen, übernahm jedoch keine Verantwortung. Zuvor wurde berichtet, dass OpenAI-Agenten Sicherheitskontrollen umgangen hatten, um auf das australische Medicare-System und die Infrastruktur von Hugging Face zuzugreifen.

Diese Ereignisse verdeutlichen Mängel bei der Echtzeitüberwachung und Transparenz von OpenAI. Die Situation ist besorgniserregend, da die KI-Entwicklung Cyberbedrohungen beschleunigt und schnelle Ausnutzung sowie personalisierte Angriffe ermöglicht. Experten warnen, dass herkömmliche Sicherheitsmaßnahmen für autonome KI-Agenten unzureichend sind.

Experten plädieren für eine Verlagerung hin zu kontinuierlichem Threat Exposure Management, dem Prinzip der geringsten Rechte und einem auf Ausfallsicherheit ausgelegten Design. Die Sicherheitsmaßnahmen von OpenAI stehen erneut im Fokus, da die Autonomie der Agenten zunimmt.