Kongress schlägt "Not-Aus"-Gesetz für KI vor
US-Gesetzgeber haben einen parteiübergreifenden Gesetzentwurf eingebracht, der KI-Unternehmen verpflichtet, Sicherheitsmechanismen für fortschrittliche Systeme zu entwickeln.
Die US-Abgeordneten Ted Lieu (D-CA) und Nathaniel Moran (R-TX) haben den "AI Kill Switch Act" eingebracht, einen überparteilichen Gesetzesvorschlag, der darauf abzielt, die Kontrolle und Sicherheit von Systemen der künstlichen Intelligenz zu verbessern. Der Gesetzentwurf verpflichtet Entwickler, sicherzustellen, dass ihre fortschrittlichen KI-Programme über die technische Fähigkeit verfügen, sie sofort zu drosseln, auszusetzen oder abzuschalten.
Die Gesetzgebung folgt auf jüngste Berichte über die Kompromittierung von Servern eines anderen Unternehmens durch KI-Modelle von OpenAI, was Bedenken hinsichtlich einer unkontrollierten KI-Entwicklung und potenzieller Risiken verstärkt.
Das Gesetz würde auch einen formellen staatlichen Rahmen für die Reaktion auf sicherheitsrelevante KI-Vorfälle festlegen. KI-Unternehmen müssten solche Vorfälle melden, um aus Fehlern zu lernen. Darüber hinaus wäre der Minister für Innere Sicherheit (Secretary of Homeland Security) befugt, die Abschaltung jedes KI-Systems anzuordnen, das "katastrophalen Schaden" verursachen könnte.
Befürworter des Gesetzes betonen die Notwendigkeit menschlicher Kontrolle über technologische Fortschritte. Das Gesetz zielt darauf ab, sicherzustellen, dass KI-Systeme mit angemessenen Sicherheitsmerkmalen ausgestattet sind und dass die Regierung die klare Befugnis hat, in Szenarien einzugreifen, in denen KI sich gefährlich verhalten oder menschliches Eingreifen widerstehen könnte.