KI-Sicherheit: Selbstregulierung nach Branchenvereinbarung fragwürdig
KI-Unternehmen unterzeichneten ein Sicherheitsabkommen mit der US-Regierung, doch Experten zweifeln an dessen Wirksamkeit und verweisen auf historische Beispiele, wo Regulierung, nicht Selbstkontrolle, Sicherheit verbesserte.
Eine kürzlich von führenden KI-Unternehmen und der US-Regierung unterzeichnete Vereinbarung zielt darauf ab, die Sicherheit von künstlicher Intelligenz zu verbessern. Das Abkommen setzt jedoch stark auf die Selbstregulierung der Branche, was bei Experten Skepsis hervorruft.
Historische Vergleiche deuten darauf hin, dass Selbstregulierung unzureichend ist. In den 1960er Jahren widersetzte sich die Automobilindustrie verpflichtenden Sicherheitsmerkmalen, bis Bundesgesetze wie der National Traffic and Motor Vehicle Safety Act von 1966 Sicherheitsgurte vorschrieben. Dies führte zu einer erheblichen Reduzierung von Verkehrstoten, trotz erhöhter Fahrzeugnutzung.
Im Gegensatz zum Automobilsektor mangelt es der KI an leicht quantifizierbaren Sicherheitsmetriken oder direkten Entsprechungen zu Merkmalen wie Sicherheitsgurten. Die rasante Entwicklung der KI und ihre integrale Rolle in der Wirtschaft stellen ebenfalls Herausforderungen für die Implementierung strenger Aufsicht dar, ohne wirtschaftliche Störungen zu riskieren. Die Bedenken reichen von potenziellem Missbrauch bis hin zu existenziellen Risiken, obwohl die genaue Natur und der Zeitrahmen dieser Schäden umstritten bleiben.
Branchenführer sprachen von der Notwendigkeit, "die Grenze des Fortschritts zu timen", aber die globale Durchsetzung solcher Maßnahmen ist schwierig, insbesondere angesichts des internationalen Wettbewerbs, insbesondere mit China, das seine KI-Entwicklung unabhängig fortsetzt. Das aktuelle Abkommen scheint ein vorläufiger Schritt zu sein, dem es an konkreten Durchsetzungsmechanismen mangelt und der auf freiwilliger Einhaltung durch die Unternehmen selbst beruht.