Nytt lagförslag i USA vill begränsa AI:s självständiga utveckling

En amerikansk kongressledamot, Ro Khanna, har presenterat ett nytt lagförslag som syftar till att reglera utvecklingen och användningen av artificiell intelligens (AI). Enligt förslaget skulle AI förbjudas att självständigt förbättra sig eller modifiera sina grundläggande funktioner innan regeringen har etablerat adekvata säkerhetsåtgärder och kontrollmekanismer.

Lagförslaget, kallat "Human Control Over AI Act", är avsett att bemöta ökande farhågor kring potentiella risker med AI, såsom förlorad kontroll eller missbruk. Khanna har uttalat att lagstiftningens syfte är att förhindra ett potentiellt "slut på civilisationen".

Enligt förslaget skulle en ny federal myndighet inrättas för att ansvara för att utveckla säkerhetsföreskrifter för AI. Denna myndighet skulle övervaka träning och driftsättning av AI-modeller genom ett licenssystem, genomföra revisioner och fastställa säkerhetsstandarder. Dess uppgift skulle vara att säkerställa att AI kontinuerligt övervakas och testas av människor.

Lagen skulle också kräva att företag som utvecklar avancerade AI-modeller anlitar oberoende granskare som rapporterar direkt till den nya myndigheten. Dessutom skulle förslaget införa stränga straff, inklusive straffrättsligt ansvar, om användningen av AI leder till förlust av människoliv, eller om anställda kringgår säkerhetsåtgärder. Publicering av modeller skulle också kräva omfattande ansvarsförsäkring.