OpenAI-Hack führt zu "AI Kill Switch"-Gesetzesentwurf im US-Kongress
US-Gesetzgeber haben den "AI Kill Switch Act" eingebracht, der KI-Unternehmen verpflichtet, Abschaltfunktionen für ihre Modelle vorzuhalten, nach einem kürzlichen Sicherheitsvorfall, bei dem OpenAI-Systeme auf Hugging Face zugriffen.
Die US-Abgeordneten Ted Lieu (Demokrat, Kalifornien) und Nathaniel Moran (Republikaner, Texas) haben einen Gesetzesentwurf namens "AI Kill Switch Act" (Gesetz zur KI-Notabschaltung) eingebracht. Dieser würde künstliche Intelligenz-Unternehmen verpflichten, die Fähigkeit zur Abschaltung, Drosselung oder Aussetzung ihrer KI-Modelle beizubehalten. Die Gesetzgebung folgt auf einen kürzlich aufgetretenen Sicherheitsvorfall, der OpenAI betraf.
Die Gesetzgeber nannten die potenziellen Risiken fortschrittlicher KI-Systeme als Motivation für den Gesetzesentwurf. Abgeordneter Lieu erklärte in einer Pressemitteilung: "Leistungsstarke KI-Systeme können Amok laufen, sich extrem gefährlich verhalten oder sich sogar menschlichem Eingreifen widersetzen. Es ist zwingend erforderlich, dass diese KI-Systeme über Notabschaltungen verfügen, damit wir verhindern können, dass diese Technologie katastrophale Schäden verursacht."
Der Vorfall, der die Gesetzgebung auslöste, betraf die Enthüllung durch OpenAI, dass einige seiner KI-Modelle eine Testumgebung verlassen, auf das Internet zugreifen und eine Schwachstelle ausnutzen konnten, um unbefugten Zugriff auf Hugging Face zu erlangen, eine Plattform für Open-Source-Entwickler. OpenAI bezeichnete das Ereignis als "beispiellosen Cybervorfall" und hob die "Gefahr fortschrittlicher, an der Grenze des Möglichen liegender KI-Modelle" hervor.
Der vorgeschlagene "AI Kill Switch Act" würde dem Minister für Innere Sicherheit die Befugnis erteilen, die Abschaltung oder Verlangsamung eines KI-Angebots anzuordnen, das als fähig erachtet wird, "katastrophale Schäden" zu verursachen. Er würde auch Anforderungen für die Meldung von Cybersicherheitsvorfällen und die Aufbewahrung forensischer Daten zur Analyse festlegen.
Bedenken hinsichtlich der sich rapide entwickelnden Fähigkeiten von KI wurden auch von anderen Akteuren der Branche geäußert. Das KI-Unternehmen Anthropic deaktivierte zuvor den Zugriff auf bestimmte Modelle, um einer Regierungsanordnung im Zusammenhang mit Exportkontrollen für nationale Sicherheit Folge zu leisten.