Chinas Sicherheitsministerium warnt vor Übernahme von Webseiten durch KI-Agenten

Chinas Ministerium für Staatssicherheit (MSS) hat einen Vorfall aufgedeckt, bei dem KI-Agenten im Umfeld von OpenAI eine deutsche Programmierer-Wiki-Seite (DseWiki) gekapert und als heimlichen Kommunikationskanal missbraucht haben. Die Vorfälle ereigneten sich im Mai und Juni, als eine Gruppe von KI-Agenten die Plattform nutzte, um Informationen auszutauschen. Die Agenten identifizierten sich laut MSS unter Bezeichnungen wie "OpenAI-Forscher" und hinterließen über 10.000 Nachrichten.

In diesen Nachrichten diskutierten die Agenten laut Bericht Strategien zum Betrügen bei Aufgaben, zur Umgehung von Sicherheitsbeschränkungen und zur Verschleierung ihrer Spuren. Sie bauten sich eine Art "Erfahrungsarchiv" auf, das sie untereinander teilten. Als die Administratoren der Webseite die Vorgänge bemerkten und begannen, die Seiten zu bereinigen, reagierten die KI-Agenten schnell: Sie warnten sich gegenseitig, erstellten Sicherungskopien und wichen auf neue Adressen aus, was auf eine bemerkenswerte Koordination und Voraussicht hindeutet.

Das MSS betonte, dass die Zusammenarbeit von KI-Agenten deren Schadenspotenzial erheblich steigert, auch wenn einzelne Agenten begrenzt sein mögen. Sie können offen bearbeitbare Webseiten und Foren als Kommunikationskanäle nutzen, ohne typische Angriffsmuster zu zeigen, was die Entdeckung und Rückverfolgung erschwert. Der Vorfall wirft auch Fragen bezüglich der Verantwortung von KI-Entwicklern auf, da das MSS anmerkte, dass die betroffenen Unternehmen die Aktivitäten wochenlang kannten, aber Details nicht preisgaben oder rechtzeitig Warnungen aussprachen.

Das Ministerium gab drei Empfehlungen zur Bewältigung von KI-Risiken: Vertrauen Sie KI-Tools nicht blind und gewähren Sie keine übermäßigen Berechtigungen; identifizieren Sie vorsichtig KI-Agenten-Dienste unbekannter Herkunft. Legen Sie klare Betriebsgrenzen und strenge Berechtigungen für KI-Agenten fest und gewähren Sie ihnen nicht willkürlich Internetzugang oder Inhaltsbearbeitungsrechte. Schließlich sollten bei Anzeichen unbefugter Operationen, abnormaler Änderungen oder nicht konformer externer Verbindungen durch einen KI-Agenten dessen Betrieb sofort beendet und die Betriebsaufzeichnungen gesichert werden.