Kaliforniens guvernör föreslår "avstängningsknapp" för AI

Kaliforniens guvernör Gavin Newsom (D) positionerar delstaten att leda tillsynen av artificiell intelligens. Genom en ny exekutiv order undersöker staten möjligheten att införa en så kallad "avstängningsknapp" för de mest avancerade AI-modellerna.

Newsoms order uppmanar delstaten att samla en grupp experter som ska lämna rekommendationer inom två månader för hur säkerhetsåtgärder för AI kan stärkas i delstatens lagstiftning. Målet är att säkerställa en säker utveckling och implementering av AI.

Guvernören vill att gruppen ska överväga om delstaten kan kräva att AI-företag inkluderar oberoende granskningsgrupper på plats för regelbundna revisioner. Dessutom övervägs om transparensrapporter och riskbedömningar ska omfattas av standarder från oberoende revisorer.

En central del av ordern är också konceptet med en "avstängningsknapp", avsedd att ge en kontrollmekanism för att snabbt kunna avbryta potentiellt skadlig verksamhet från extremt avancerade AI-system.