Kalifornian kuvernööri ehdottaa tekoälyn "sammutusnappia"

Kalifornian kuvernööri Gavin Newsom (D) on ottamassa osavaltion eturintamaan tekoälyn valvonnassa. Uuden toimeenpanomääräyksen myötä valtio tutkii mahdollisuutta vaatia niin kutsutun "sammutusnapin" käyttöönottoa kehittyneimmille tekoälymalleille.

Newsomin määräys kehottaa osavaltiota kokoamaan asiantuntijaryhmän, jonka tehtävänä on antaa kahden kuukauden kuluessa suosituksia tekoälyn turvatoimien vahvistamiseksi osavaltion laissa. Tavoitteena on varmistaa tekoälyn turvallinen kehitys ja käyttöönotto.

Kuvernööri haluaa ryhmän harkitsevan, voisiko osavaltio edellyttää tekoäly-yrityksiä sisällyttämään riippumattomia tarkastusryhmiä paikan päälle säännöllisiä auditointeja varten. Lisäksi harkinnassa on, että läpinäkyvyysraportit ja riskinarvioinnit alistettaisiin riippumattomien tilintarkastajien standardeille.

Määräyksen keskeinen osa on myös "sammutusnapin" käsite, jonka tarkoituksena on tarjota valvontamekanismi äärimmäisen kehittyneiden tekoälyjärjestelmien mahdollisesti haitallisen toiminnan keskeyttämiseksi nopeasti.