Khannas lagförslag: Avancerad AI förbjuds tills säkerhetsåtgärder finns

Representanten Ro Khanna har presenterat ett nytt lagförslag som syftar till att reglera utvecklingen och implementeringen av artificiell intelligens (AI). Lagförslaget, kallat "Human Control Over AI Act", är utformat för att säkerställa mänsklig kontroll och säkerhet i takt med den snabba utvecklingen av AI-teknik.

En central del av förslaget är ett förbud mot så kallade "rekursiva" AI-modeller. Dessa system har förmågan att kontinuerligt förbättra sig själva eller autonomt modifiera sina kärnmål, säkerhetsmekanismer eller nedstängningskontroller. Förbudet skulle gälla tills federala skyddsåtgärder har etablerats och godkänts.

Lagförslaget kommer mot bakgrund av en växande oro för att AI-tekniken kan utvecklas bortom mänsklig kontroll. Ledande personer inom branschen har varnat för potentiella risker, och kongressen försöker nu skapa lagstiftningsmässiga ramar för att övervaka teknologin.

Förslaget inkluderar också inrättandet av en ny federal myndighet för att övervaka avancerade AI-modeller och skapa ett licenssystem för träning och driftsättning av modeller. Det skulle också kräva omfattande ansvarsförsäkringar från företag innan de får lansera sina modeller och syftar till att förhindra utvecklingen av skadliga AI-system av utländska aktörer.