Microsoft-CEO Nadella fordert "Notbremse" für KI, die von Menschen kontrolliert wird

Microsofts Vorstandsvorsitzender und CEO Satya Nadella hat die Notwendigkeit einer "Notbremse" für fortschrittliche Systeme künstlicher Intelligenz (KI) gefordert, die von Menschen kontrolliert werden kann. Nadella betonte, dass solche Systeme Eindämmungsmechanismen und unabhängige Kontrollen beinhalten sollten, die es autorisiertem Personal ermöglichen, ein KI-Modell während des Betriebs anzuhalten oder abzuschalten.

"Wir müssen nicht-deterministische Modelle mit starkem, deterministischem Systemdesign, menschlichen Kontrollen und zuverlässigen Betriebsverfahren umgeben und Industriestandards etablieren, wo bestehende unzureichend sind", schrieb Nadella auf der Social-Media-Plattform X. Er schlug vor, fortgeschrittene KI-Modelle, sowohl geschlossene als auch offene, wie Insider-Risiken zu behandeln, um solche Systeme zu bauen.

Diese Äußerungen fallen mit zunehmenden Warnungen von anderen Technologieführern und Forschern zusammen. Viele haben Bedenken hinsichtlich unzureichender KI-Sicherheitsprotokolle und der rasanten Entwicklung der Technologie geäußert, wobei einige KI-Forscher vor existenziellen Risiken für die Menschheit warnten.

Im Gegensatz dazu haben politische Persönlichkeiten wie der ehemalige Präsident Donald Trump KI-bezogene Aussterberisiken zurückgewiesen und stattdessen die Bedeutung der technologischen Führung der USA gegenüber China betont. Trumps Regierung hat jedoch auch eine KI-Taskforce mit Schwerpunkt auf Sicherheit ins Leben gerufen.

Nadella schloss mit der Feststellung, dass das vertrauenswürdigste "Superintelligenz"-System nicht dasjenige sein wird, dessen Modell am meisten Vertrauen genießt, sondern dasjenige, das "es uns ermöglicht, dem Modell am wenigsten zu vertrauen", was die Bedeutung robuster Kontrollmechanismen unterstreicht.