Gesetzesentwurf in den USA soll KI-Selbstverbesserung einschränken
Ein US-Abgeordneter hat einen Gesetzentwurf eingebracht, der KI verbieten würde, sich selbst rekursiv zu verbessern, bevor staatliche Sicherheitsmechanismen vorhanden sind.
Der US-Abgeordnete Ro Khanna hat einen neuen Gesetzentwurf zur Regulierung der Entwicklung und des Einsatzes von künstlicher Intelligenz (KI) vorgeschlagen. Die geplante Gesetzgebung würde KI-Systemen verbieten, sich selbst rekursiv zu verbessern oder ihre Kernziele, Eindämmungsmethoden oder Abschaltkontrollen zu modifizieren, bevor die Regierung ausreichende Sicherheitsmaßnahmen und Aufsichtsmechanismen etabliert hat.
Das Gesetz mit dem Titel "Human Control Over AI Act" (Gesetz zur menschlichen Kontrolle über KI) zielt darauf ab, wachsende Bedenken hinsichtlich der potenziellen Risiken fortschrittlicher KI, einschließlich Kontrollverlust und Missbrauch, anzugehen. Khanna hat erklärt, dass die Gesetzgebung dazu bestimmt ist, Risiken zu mindern, die eine Bedrohung für die Zivilisation darstellen könnten.
Gemäß dem Vorschlag würde eine neue Bundesbehörde geschaffen, um Sicherheitsvorschriften für KI zu entwickeln. Diese Behörde würde die Lizenzierung, Schulung und den Einsatz von KI-Modellen überwachen, Audits durchführen und Sicherheitsstandards festlegen, um sicherzustellen, dass KI unter kontinuierlicher menschlicher Prüfung und Kontrolle bleibt.
Die Gesetzgebung würde auch vorschreiben, dass führende KI-Labore unabhängige Prüfer beschäftigen, die direkt an die neue Behörde berichten. Strengere Strafen, einschließlich strafrechtlicher Haftung, werden für KI-bezogene Vorfälle mit katastrophalen Folgen oder für Mitarbeiter, die Sicherheitsfunktionen deaktivieren, vorgeschlagen. Unternehmen müssten auch eine umfassende Haftpflichtversicherung abschließen, bevor sie KI-Modelle freigeben.