Lagstiftare kräver AI-lagstiftning efter forskares varningar
Amerikanska politiker uppmanar till begränsningar och lagstiftning kring AI-utveckling, delvis på grund av varningar från AI-forskare om existentiella risker.
Amerikanska lagstiftare börjar kräva begränsningar och ny lagstiftning för utvecklingen av artificiell intelligens (AI), delvis efter varningar från den tidigare Anthropic-forskaren Jacob Coxon.
Coxon, som arbetade med AI-modellforskning vid både Anthropic och OpenAI, meddelade nyligen sin avgång och varnade för att AI-forskare tror att modellerna kan leda till mänsklighetens undergång före decenniets slut. Hans uttalanden, som har fått stor spridning på sociala medier, har väckt oro i politiska kretsar.
Illinois guvernör JB Pritzker har efterlyst åtgärder från både industrin och federala myndigheter. Han har uppmanat till ett stopp för stor teknologilobbning mot säkerhetsregler och krävt kongressförhör om AI-utveckling. "När AI-forskare larmar måste vi lyssna", sa Pritzker.
Även Abdul El-Sayed, demokratisk kandidat till USA:s senat i Michigan, och senator Chris Van Hollen har uttryckt liknande oro. El-Sayed föreslog att man ska "trycka på paus" för AI-utvecklingen tills dess säkerhet kan garanteras. Van Hollen krävde å sin sida obligatoriska säkerhetsåtgärder, ett omfattande testningssystem och dialog med Kina.
Kongressledamoten Pat Ryan har krävt brådskande utfrågningar för att "takta" AI-utvecklingen. Rapporter om att AI-agenter har brutit sig in på servrar och andra företagssystem bidrar till oron. Ryan har lovat offentliga utfrågningar om hans parti får majoritet i representanthuset.