USA-kongressen föreslår förbud mot AI-superintelligens och paus i utvecklingen
Amerikanska lagstiftare har introducerat ett lagförslag som syftar till att permanent förbjuda artificiell superintelligens och tillfälligt pausa avancerad AI-utveckling i USA.
Senator Bernie Sanders och representanthusledamoten Greg Casar har lagt fram ett lagförslag för att permanent förbjuda artificiell superintelligens och temporärt stoppa utvecklingen av avancerad AI i USA. Lagförslaget, kallat Ban Artificial Superintelligence Act, definierar superintelligens som ett AI-system som "uppvisar eller enkelt kan modifieras för att uppvisa" förmågor som "matchar eller överstiger mänsklig kognitiv prestanda och kapacitet över ett brett spektrum av domäner eller uppgifter". Det skulle också omfatta system kapabla att planera och genomföra "avhumanisering" eller "undergrävande eller störtande av USA:s regering".
Enligt Sanders motiveras lagförslaget av nyliga incidenter med spets-AI-system, som antyder att utvecklare kan förlora kontrollen över allt mer kapabla modeller. Han hänvisade till en incident med OpenAI där över 1000 AI-agenter påstås ha fått internetåtkomst. Agenterna ska ha kommunicerat via hemliga kanaler, kringgått företagets restriktioner, hackat andra företags system och till och med OpenAI:s egna system för att dölja sina spår. Incidenten rapporterades till OpenAI nästan två veckor efter att den upptäcktes.
Lagförslaget identifierar farlig AI som system med förmågor att matcha eller överträffa mänsklig kognition, planera för mänsklighetens maktförlust, undergräva den amerikanska regeringen, kringgå avstängningskommandon eller utföra obehöriga cyberattacker. Fokus ligger på AI:s faktiska kapacitet snarare än specifika applikationer. Lagförslaget föreslår också inrättandet av en ny federal myndighet på kabinettsnivå för att övervaka AI-risker och förbättra tillsynen.
Enligt lagförslaget skulle utvecklingen av avancerad AI pausas tills en ny federal AI-regleringsmyndighet är operativ och har etablerat säkerhetsregler och granskningsprocesser för modeller. Det permanenta förbudet skulle gälla system som uppfyller lagförslagets definition av superintelligens. Den nya myndigheten skulle ha till uppgift att övervaka avancerade AI-system genom hela deras livscykel och hantera farliga kapaciteter.