Gouverneur von Kalifornien schlägt "Not-Aus" für KI vor
Kaliforniens Gouverneur Gavin Newsom hat eine Anordnung erlassen, die die Bemühungen des Bundesstaates zur Regulierung von KI initiiert. Die Anordnung prüft die Einführung eines "Not-Aus" für fortgeschrittene KI-Modelle.
Kaliforniens Gouverneur Gavin Newsom (D) positioniert den Bundesstaat als führend in der KI-Aufsicht. Eine neue Anordnung weist den Staat an, die Möglichkeit zu prüfen, einen "Not-Aus" für wegweisende KI-Modelle vorzuschreiben.
Die Anordnung fordert die Einberufung einer Expertengruppe, die innerhalb von zwei Monaten Empfehlungen zur Stärkung von KI-Sicherheitsmaßnahmen im Landesrecht vorlegen soll. Ziel ist es, die sichere Entwicklung und den Einsatz künstlicher Intelligenz zu gewährleisten.
Gouverneur Newsom möchte, dass die Gruppe prüft, ob KI-Unternehmen verpflichtet werden können, unabhängige Verifizierungsteams für regelmäßige Vor-Ort-Audits einzurichten. Darüber hinaus wird geprüft, ob Transparenzberichte und Risikobewertungen Standards unabhängiger Prüfer unterliegen sollen.
Die Anordnung befasst sich auch mit dem Konzept eines "Not-Aus", das als Kontrollmechanismus dienen soll, um potenziell schädliche Operationen hochentwickelter KI-Systeme schnell zu stoppen.