Anthropic schlägt Gesetz zur Regulierung von KI-Risiken vor

Das KI-Unternehmen Anthropic hat den Gesetzgebern der USA einen Gesetzesentwurf vorgelegt, der darauf abzielt, die Sicherheit von und Risiken im Zusammenhang mit fortschrittlichen KI-Modellen zu regulieren.

Gemäß dem Entwurf könnte das Handelsministerium der Vereinigten Staaten eine gerichtliche Anordnung beantragen, um ein Modell auszusetzen, falls dieses ein vorhersehbares und unmittelbares Risiko für Schäden von über 1 Milliarde US-Dollar darstellt oder mehr als 50 Personen tötet oder schwer verletzt. Solche Risiken würden aus Bereichen wie der Entwicklung oder Freisetzung biologischer Waffen, der Flucht eines Modells aus der Kontrolle seiner Entwickler oder einem Cyberangriff resultieren.

Der Gesetzesentwurf würde auch unabhängige Gutachter vorschreiben, die beim Handelsministerium registriert sind. Diese Gutachter würden KI-Labore und fortschrittliche Modelle regelmäßig bewerten und müssten unmittelbare Risiken innerhalb von 72 Stunden nach Abschluss einer Bewertung melden.

Der Vorschlag kommt inmitten der laufenden politischen Diskussionen in den USA zur KI-Regulierung. Der FRONTIER Act wurde bereits im Kongress eingebracht. Das Handelsministerium beaufsichtigt die Exportkontrollen der USA und hat diese auf fortschrittliche KI-Modelle ausgeweitet.