UN-Panel: KI-Schutzmaßnahmen vor vollständiger Risikoklarheit erforderlich

Ein wissenschaftliches Gremium der Vereinten Nationen hat davor gewarnt, dass Regierungen zunehmend fähige künstliche Intelligenz (KI)-Agenten kontrollieren müssen, bevor deren Risiken vollständig verstanden sind. Dies ist die erste umfassende Bewertung der KI durch die Organisation.

Der Bericht hebt die zentrale Bedeutung der KI auf der globalen diplomatischen Agenda hervor. Das Gremium betont, dass die Welt nicht auf vollständige Gewissheit über die Risiken von KI warten kann und fordert sofortiges Handeln.

Diese Einschätzung erfolgt, während sich Weltführer zur UN-Generalversammlung treffen und die USA sowie China Gespräche über KI führen. UN-Generalsekretär António Guterres hat zuvor Regierungen zur Zusammenarbeit bei der Bewältigung von KI-Bedrohungen aufgerufen und gewarnt: „Die Welt kann sich keinen Wettlauf nach unten bei der KI-Sicherheit leisten."

Die Ergebnisse des Gremiums sind in der ersten thematischen Erklärung der UN zu diesem Thema enthalten und unterstreichen die Notwendigkeit proaktiver Maßnahmen zur Bewältigung potenzieller Gefahren fortschrittlicher KI-Technologien.