Anthropic föreslår reglering av AI-risker

AI-företaget Anthropic har föreslagit ett utkast till lag för amerikanska lagstiftare, med målet att reglera säkerheten och hantera riskerna associerade med avancerade AI-modeller.

Enligt utkastet skulle USA:s handelsdepartement kunna söka ett domstolsbeslut för att avbryta användningen av en AI-modell om den utgör en förutsebar och omedelbar risk för skador på över 1 miljard dollar, eller för att döda eller allvarligt skada fler än 50 personer. Sådana risker skulle vara kopplade till exempelvis utveckling av biologiska vapen, att modellen undkommer sina utvecklares kontroll, eller en cyberattack.

Lagförslaget skulle även kräva oberoende utvärderare, registrerade hos handelsdepartementet. Dessa utvärderare skulle regelbundet granska AI-laboratorier och avancerade modeller, och måste rapportera om omedelbara risker inom 72 timmar efter slutförd utvärdering.

Förslaget kommer mitt i en pågående debatt om AI-reglering i USA. En lag kallad FRONTIER Act har redan lagts fram i kongressen. Handelsdepartementet ansvarar för USA:s exportkontroller och har utvidgat dessa till att omfatta avancerade AI-modeller.