Singapur schlägt UN-Rahmen für KI-Sicherheitsregeln vor

Singapur schlug am 27. September auf der Generalversammlung der Vereinten Nationen in New York die Prüfung eines UN-Rahmenübereinkommens für Sicherheitsregeln im Bereich der künstlichen Intelligenz (KI) vor. Außenminister Vivian Balakrishnan erklärte, dass gemeinsame Regeln notwendig seien, da Regierungen mit Risiken durch autonome Systeme, KI-gestützte biologische Waffen oder andere Massenvernichtungs- oder Störwaffen sowie breitere wirtschaftliche, soziale und politische Umwälzungen konfrontiert seien.

Balakrishnan betonte, dass die universelle Mitgliedschaft der UN die Organisation am besten geeignet mache, Länder zu gemeinsamen KI-Regulierungen zusammenzubringen. Er schlug vor, dass Regierungen mit wissenschaftlicher Zusammenarbeit, gemeinsamen Test- und Bewertungsmethoden sowie der länderübergreifenden Meldung schwerwiegender KI-Vorfälle beginnen könnten, wobei sichergestellt werden müsse, dass alle Länder eine sinnvolle Rolle spielen.

Singapur unterstützt fortgesetzte Investitionen in KI, betont jedoch die Notwendigkeit von Sicherheitsmaßnahmen. Dazu gehören rigorose Tests vor der Inbetriebnahme, Beschränkungen für autonome Systeme und Mechanismen für menschliche Interventionen. Balakrishnan fügte hinzu, dass die Menschen die Kontrolle und Verantwortung für KI-Systeme behalten müssten.

Der Vorschlag würde mit einer bestehenden UN-Initiative zu autonomen Waffensystemen einhergehen, wo Gespräche bereits zu Forderungen nach formellen Verhandlungen geführt haben. Im Jahr 2025 unterstützten 156 Staaten eine Resolution der UN-Generalversammlung zu diesem Thema.