KI-Sicherheitsdebatte beleuchtet Risiken gestaffelter Regulierung
Neue Forschungsergebnisse deuten darauf hin, dass KI-Sicherheitsvorschriften, die sich nur an nachgelagerte Anwendungsentwickler richten, unbeabsichtigt die Gesamtsicherheit verringern könnten. Dies geschieht, wenn vorgelagerte Modellentwickler ihre eigenen Sicherheitsinvestitionen reduzieren und sich auf andere verlassen.
Ein neues spieltheoretisches Modell legt nahe, dass KI-Sicherheitsvorschriften, wenn sie sich eng auf bestimmte Teile der Entwicklungskette konzentrieren, unwirksam sein oder die Gesamtsicherheit sogar verringern könnten. Jüngste Ereignisse, darunter die Forderungen der US-Regierung an Anthropic und die Maßnahmen des chinesischen Unternehmens Moonshot AI, haben die Diskussionen über die Sicherheitsverpflichtungen von KI-Unternehmen und die Auswirkungen der Regulierung auf Innovation und nationale Wettbewerbsfähigkeit intensiviert.
Die Forschung, mitverfasst von Jon Kleinberg und Hoda Heidari, betont, dass KI-Produkte aus einem komplexen Prozess entstehen, an dem mehrere Unternehmen beteiligt sind. Anstatt eine einzelne Einheit zu regulieren, sollten Vorschriften das gesamte Entwicklungs-Ökosystem berücksichtigen. Beispielsweise erstellt bei der Entwicklung von Software zur Zusammenfassung von Kliniknotizen ein großer Anbieter von KI-Modellen ein Basismodell, das ein anderes Unternehmen für medizinische Zwecke anpasst. Die Sicherheitsverantwortung ist auf diese Schichten verteilt, und keine Partei kann alle potenziellen Risiken vollständig antizipieren.
Die Studie ergab, dass Vorschriften, die nur Anwendungsentwickler zur Gewährleistung der Sicherheit verpflichten (z. B. für Kundendienst-Chatbots oder medizinische Anwendungen), dazu führen können, dass Basismodellentwickler ihre eigenen Sicherheitsinvestitionen reduzieren. Sie könnten davon ausgehen, dass nachgelagerte Unternehmen die endgültigen Prüfungen durchführen. Dies könnte paradoxerweise zu einer geringeren Gesamtsicherheit führen, auch wenn die regulierte Einheit ihre Anstrengungen erhöht.
Das spieltheoretische Modell zeigt, dass schwache Vorschriften, die sich nur an Entwickler von Endprodukten richten, dazu führen können, dass Basismodellentwickler ihr Sicherheitsniveau stärker reduzieren, als Anwendungsentwickler es erhöhen. Dies kann dazu führen, dass das Endprodukt weniger sicher ist als ohne jegliche Regulierung.
Umgekehrt können angemessen kalibrierte Vorschriften, die sowohl für Basismodellentwickler als auch für Anwendungsentwickler gelten, als Verpflichtungsinstrument dienen und sicherstellen, dass beide Parteien in Sicherheit investieren. Eine solche koordinierte Regulierung kann sowohl die Sicherheit als auch die Leistung verbessern und potenziell die finanzielle Situation beider Unternehmen verbessern.