Google DeepMind-Gründer fordert Aufsichtsbehörde für KI

Demis Hassabis, Mitbegründer von Google DeepMind, hat die Schaffung einer neuen, von den USA geführten Aufsichtsbehörde vorgeschlagen, um Sicherheitsbedenken bezüglich fortschrittlicher KI-Modelle zu adressieren.

Hassabis schlägt vor, dass diese neue, von der Industrie finanzierte und föderal beaufsichtigte Organisation bis Ende 2026 einsatzfähig sein könnte. Ihr Auftrag wäre es, die weltweit fortschrittlichsten KI-Modelle vor ihrer Veröffentlichung zu testen und unsichere Systeme potenziell vom amerikanischen Markt auszuschließen.

Der Vorschlag, der in einem Substack-Beitrag dargelegt wurde, zielt darauf ab, zufällige staatliche Interventionen durch klarere, standardisierte Regeln zu ersetzen. Hassabis zog eine Parallele zur Financial Industry Regulatory Authority (FINRA), der Selbstregulierungsorganisation der Wall Street.

Anfänglich könnten KI-Entwickler ihre Modelle freiwillig bis zu 30 Tage vor der Markteinführung zur Überprüfung einreichen. Diese Tests würden das Potenzial der Modelle, Cyberangriffe, biologische Bedrohungen oder irreführendes Verhalten zu ermöglichen, bewerten. Zukünftige Versionen könnten die Überprüfung für bestimmte „Frontier“-Modelle, einschließlich ausländischer und Open-Source-Systeme, die auf den US-Markt gelangen, obligatorisch machen.

„Wir glauben, dass die Standardisierungsorganisation als branchengeführte, freiwillige Organisation beginnen kann, die in Zukunft durch Gesetz oder eine Executive Order formalisiert wird“, erklärte Owen Larter, Googles Direktor für Frontier AI Policy und globale Angelegenheiten.