DeepMind-CEO fordert unabhängige Standards für KI

Google DeepMind CEO Demis Hassabis hat die Schaffung einer neuen, unabhängigen Regulierungsbehörde für die Überwachung von "Frontier"-Künstliche-Intelligenz-Modellen vorgeschlagen. Hassabis stellte die Idee am Dienstag in einem Beitrag auf X unter dem Titel "A Framework for Frontier AI and the Dawning of a New Age" vor.

Die vorgeschlagene Organisation soll nach dem Vorbild der Financial Industry Regulatory Authority (FINRA) im Finanzsektor arbeiten. Ihre Aufgabe wäre es, Spitzenmodelle der künstlichen Intelligenz zu testen und bewährte Verfahren für deren Einsatz zu entwickeln. Anfänglich würden die "Frontier AI Labs" ihre Modelle freiwillig bis zu 30 Tage vor der Veröffentlichung zur Überprüfung einreichen.

Hassabis stellt sich vor, dass nach erfolgreicher und robuster Prüfung des Bewertungsprotokolls eine Formalisierung erfolgen könnte, die eine Genehmigung dieser Standards für die Inverkehrbringung von Frontier-Modellen im US-Markt vorschreibt. Die Behörde würde auch mit den Laboren zusammenarbeiten, um kritische Schwachstellen nach der Veröffentlichung zu beheben. Dieser Ansatz zielt darauf ab, frühere ad-hoc-Bewertungen der US-Regierung zu verbessern, die wegen mangelnder technischer Expertise und undurchsichtiger Entscheidungsfindung kritisiert wurden.

Der Vorschlag stößt auf Skepsis, da ein KI-Berater des Weißen Hauses zuvor die Idee einer "FDA für KI" abgelehnt hat. Die Einrichtung als selbstregulierende Organisation, ähnlich der FINRA, könnte jedoch eine Möglichkeit sein, diese Bedenken auszuräumen. Hassabis schlägt vor, dass die Organisation mit Vertretern der Open-Source-Community und technischen Experten aus der Branche besetzt und von den KI-Laboren finanziert werden soll.