Kaliforniens Gouverneur verbietet KI-gestützte "Roboter-Chefs" bei Personalentscheidungen

Kaliforniens Gouverneur Gavin Newsom hat ein neues Gesetz unterzeichnet, das Arbeitgebern verbietet, sich bei Entlassungen oder disziplinarischen Maßnahmen gegen Mitarbeiter ausschließlich auf künstliche Intelligenz (KI) zu verlassen. Das Gesetz, SB 947, bekannt als "No Robo Bosses Act" (Gesetz gegen Roboter-Chefs), untersagt Unternehmen im gesamten Bundesstaat die alleinige Nutzung automatisierter Entscheidungssysteme für solche Maßnahmen.

Gemäß dem neuen Gesetz müssen Arbeitgeber, die KI-Ergebnisse vorrangig für Entscheidungen über Entlassungen oder disziplinarische Maßnahmen nutzen, nun eine menschliche Überprüfung einholen, um diese Entscheidungen zu bestätigen. Diese menschliche Überprüfung muss zusätzliche Informationen berücksichtigen, wie z. B. Vorgesetztenbewertungen und Personalakten. Der Gouverneur hatte zuvor eine frühere Version des Gesetzes abgelehnt.

Mitarbeiter, die von diesen KI-gestützten Entscheidungen betroffen sind, müssen eine schriftliche Benachrichtigung erhalten, dass KI "vorrangig" in ihrem Fall verwendet wurde. Diese Benachrichtigung wird eine Beschreibung der vom System verwendeten Mitarbeiterdaten und eine menschliche Kontaktperson für weitere Erläuterungen enthalten. Der kalifornische Senator Jerry McNerney, der Verfasser des Gesetzes, betonte, dass KI ein von Menschen kontrolliertes Werkzeug bleiben sollte.

Gouverneur Newsom hat in jüngster Zeit mehrere KI-bezogene Initiativen verfolgt, darunter eine umfassendere Durchführungsverordnung, die sich mit den potenziellen existenziellen Risiken von KI-Modellen befasst. Er hat auch die Bundesregierung aufgefordert, mehr Verantwortung für den Schutz der Amerikaner vor der KI-Entwicklung zu übernehmen.