Kaliforniens guvernör förbjuder AI-baserade "robotchefer" i uppsägningsbeslut

Kaliforniens guvernör Gavin Newsom har undertecknat en ny lag som förbjuder arbetsgivare att enbart förlita sig på artificiell intelligens (AI) för att säga upp eller vidta disciplinära åtgärder mot anställda. SB 947, även känd som "No Robo Bosses Act", hindrar företag i delstaten från att uteslutande använda automatiserade beslutsfattandesystem i dessa ärenden.

Enligt lagen måste arbetsgivare som primärt använder AI-utdata för uppsägnings- eller disciplinära beslut nu få dessa beslut bekräftade av en mänsklig granskare. Denna bekräftelse ska baseras på ytterligare information, såsom chefutvärderingar och personalfiler. Newsom hade tidigare lagt in sitt veto mot en tidigare version av lagen.

Anställda som påverkas av dessa beslut måste också få skriftlig information om att AI har använts som primärt verktyg i deras uppsägnings- eller disciplinära beslut. Informationen ska inkludera en beskrivning av de anställdas data som systemet använt och en mänsklig kontaktperson som kan ge ytterligare förklaringar. Delstatens senator Jerry McNerney, som drivit lagen, betonade att AI bör förbli ett verktyg kontrollerat av människor.

Newsom har nyligen vidtagit flera åtgärder gällande AI-reglering, inklusive en bredare exekutiv order tidigare denna månad om potentiella existentiella risker med AI-modeller. Han har också uppmanat federala myndigheter att ta större ansvar för att skydda amerikaner från utvecklingen av AI.