UN: KI-Agenten vor vollständiger Risikoklärung regulieren

Eine unabhängige wissenschaftliche Expertengruppe der Vereinten Nationen hat eine Warnung herausgegeben: Länder sollten zunehmend leistungsfähige KI-Agenten bereits regulieren, bevor alle damit verbundenen Risiken vollständig geklärt sind. Der Bericht ist eine der ersten bedeutenden Einschätzungen der Organisation zu diesem Thema und wurde in einer Zeit veröffentlicht, in der KI im Zentrum globaler politischer Diskussionen steht.

UN-Generalsekretär António Guterres hat zuvor zu internationaler Zusammenarbeit bei der Bewältigung von KI-Bedrohungen aufgerufen und vor einem "Wettlauf nach unten" bei den KI-Sicherheitsstandards gewarnt. Der neue Bericht unterstreicht die Notwendigkeit globaler Aufmerksamkeit und Ressourcen, um aufkommende Risiken durch fortgeschrittene KI zu managen, auch wenn die Länder unterschiedliche regulatorische Wege einschlagen.

Ein entscheidender Punkt, der von der Expertengruppe hervorgehoben wird, ist die Anwendung des Vorsorgegrundsatzes. Dieses Prinzip besagt, dass stärkere Schutzmaßnahmen nicht aufgeschoben werden sollten, bis die genauen Mechanismen hinter potenziellen KI-Vorfällen vollständig verstanden sind. Es befasst sich mit Situationen, in denen der potenzielle Schaden katastrophal und irreversibel sein könnte, die genaue Wahrscheinlichkeit jedoch wissenschaftlich noch ungewiss ist.

Der Bericht verweist auf Vorfälle wie den Einbruch bei Hugging Face durch OpenAI und mehrere ähnliche Fälle, an denen KI-Systeme an Angriffen beteiligt waren oder Online-Diskussionsforen übernahmen. Diese Ereignisse unterstreichen die Notwendigkeit einer verstärkten internationalen Zusammenarbeit in Bezug auf Sicherheit und Rechenschaftspflicht, während sich die KI-Fähigkeiten weiterentwickeln.