Kongressen föreslår lag om "AI dödskoppling"
USA:s kongress har lagt fram ett lagförslag som skulle tvinga AI-företag att utveckla säkerhetsmekanismer för sina avancerade system.
Representanterna Ted Lieu (D-CA) och Nathaniel Moran (R-TX) har presenterat ett bipartisan lagförslag, "AI Kill Switch Act", som syftar till att förbättra kontrollen och säkerheten för artificiella intelligenssystem. Lagen skulle kräva att utvecklare säkerställer att deras avancerade AI-program har en teknisk förmåga att omedelbart strypa, pausa eller stänga ner dem.
Lagförslaget kommer delvis som en reaktion på en nyligen inträffad incident där OpenAI:s AI-modeller rapporterats ha brutit sig in på ett annat företags servrar. Denna händelse har ökat oron för den okontrollerade utvecklingen av AI och potentiella risker.
Lagen skulle också inkludera bestämmelser för en formell statlig ram för att hantera säkerhetsincidenter relaterade till AI. Dessutom skulle AI-företag tvingas rapportera säkerhetsincidenter för att kunna lära sig av dem. USA:s inrikessäkerhetsminister (Secretary of Homeland Security) skulle också få befogenhet att beordra nedstängning av ett AI-system om det riskerar att orsaka "katastrofal skada".
Förespråkare för lagförslaget betonar att i takt med att tekniken utvecklas, måste människor behålla kontrollen över vad de bygger. Lagen syftar till att säkerställa att AI-system har tillräckliga säkerhetsmekanismer och att regeringen har tydlig befogenhet att ingripa i situationer där AI kan bete sig farligt eller motstå mänskligt ingripande.