Khannas Gesetzesentwurf: Fortschrittliche KI bis zu Sicherheitsmaßnahmen verboten

Rep. Ro Khanna wird eine Gesetzgebung zur Regulierung der Entwicklung und des Einsatzes von künstlicher Intelligenz (KI) einführen. Der Gesetzentwurf mit dem Titel "Human Control Over AI Act" zielt darauf ab, menschliche Aufsicht und Sicherheit inmitten der rasanten Fortschritte der KI-Technologie zu gewährleisten.

Ein wesentlicher Bestandteil des Gesetzesentwurfs ist ein Verbot sogenannter „rekursiver“ KI-Modelle. Dies sind Systeme, die in der Lage sind, sich selbst kontinuierlich zu verbessern oder ihre Kernziele, Sicherheitsmechanismen oder Abschaltkontrollen autonom zu modifizieren. Das Verbot würde gelten, bis föderale Leitplanken geschaffen und genehmigt sind.

Der Gesetzentwurf entsteht vor dem Hintergrund wachsender Bedenken, dass sich die KI-Technologie über die menschliche Kontrolle hinaus entwickeln könnte. Führende Persönlichkeiten der Branche haben vor potenziellen Risiken gewarnt, was den Kongress veranlasst, gesetzliche Rahmenbedingungen für die Überwachung zu schaffen.

Der Vorschlag sieht auch die Einrichtung einer neuen Bundesbehörde zur Überwachung fortgeschrittener KI-Modelle und zur Schaffung eines Lizenzierungssystems für das Training und die Bereitstellung von Modellen vor. Er würde außerdem eine umfassende Haftpflichtversicherung für Unternehmen vor der Veröffentlichung von Modellen vorschreiben und zielt darauf ab, die Entwicklung gefährlicher KI-Systeme durch ausländische Gegner abzuschrecken.