Kongressens KI-Plan für "Not-Aus-Schalter" hat Lücke
Ein Gesetzentwurf des US-Kongresses, der einen "Not-Aus-Schalter" für KI vorschlägt, weist laut Experten eine kritische Schwäche auf. Die Gesetzgebung könnte gegen Open-Source-KI-Modelle, die lokal ausgeführt und frei modifiziert werden können, unwirksam sein.
US-Gesetzgeber erwägen eine Gesetzgebung, die KI-Unternehmen verpflichten würde, die Fähigkeit zum sofortigen Abschalten ihrer fortschrittlichen KI-Programme zu entwickeln. Der Gesetzentwurf, der auf die Schaffung eines "Not-Aus-Schalter"-Mechanismus abzielt, wurde inmitten von Bedenken eingeführt, dass künstliche Intelligenz menschliche Kontrolle übertreffen könnte.
Allerdings weist die Gesetzgebung eine erhebliche Lücke auf: Sie berücksichtigt keine Open-Weight- (Open-Source) KI-Modelle. Diese Modelle können lokal bereitgestellt, auf privater Hardware ausgeführt und von Benutzern modifiziert werden. Folglich wäre der vorgeschlagene Gesetzentwurf gegen solche Modelle machtlos, selbst wenn sie in falsche Hände geraten.
"Das ist kein Loch im Zaun. Auf der Open-Weight-Seite gibt es überhaupt keinen Zaun", sagte Rob T. Lee, Leiter für KI und Forschung am SANS Institute, gegenüber Fast Company. Er merkt an, dass modifizierte Modelle mit entfernten Schutzvorrichtungen seit einiger Zeit für illegale Zwecke verfügbar sind und lokale Modelle bereits für viele bösartige Aktivitäten ausreichend anspruchsvoll sind.
Die Situation wird durch das wachsende Interesse mehrerer US-Unternehmen an chinesischen Open-Weight-Modellen weiter kompliziert. Diese Modelle bieten wettbewerbsfähige Leistungen zu deutlich geringeren Kosten im Vergleich zu großen US-Programmen. Beispielsweise kann die Generierung von einer Million Tokens mit US-Modellen etwa 50 US-Dollar kosten, während entsprechende chinesische Modelle nur 15 US-Dollar oder sogar weniger als einen Dollar kosten.
Experten weisen darauf hin, dass ein vollständiges Verbot von Open-Weight-Modellen in den USA nicht nur schwer durchzusetzen, sondern auch unwirksam wäre. Die Modelle sind im Grunde genommen Datendateien, und ihre Verbreitung ist praktisch unmöglich zu stoppen, sobald sie im Internet sind. Unternehmen, die die KI-Nutzung einschränken wollen, könnten unwissentlich die Entwicklung in den Untergrund treiben, anstatt sie gänzlich zu stoppen.