Google DeepMindin perustaja ehdottaa tekoälyn sääntelyelintä

Google DeepMindin perustaja Demis Hassabis on ehdottanut uutta, Yhdysvaltain johtamaa puolueetonta valvontaelintä vastaamaan tekoälymallien turvallisuuskysymyksiin.

Hassabiksen mukaan uusi elin voisi aloittaa toimintansa vuoden 2026 loppuun mennessä. Sen tehtävänä olisi testata maailman kehittyneimpiä tekoälymalleja ennen niiden julkaisua ja tarvittaessa estää turvattomiksi arvioitujen mallien pääsy Yhdysvaltain markkinoille.

Ehdotuksen taustalla on halu korvata satunnaiset hallituksen toimenpiteet selkeämmillä säännöillä. Hassabis esitti ajatuksensa tiistaina julkaistussa Substack-kirjoituksessa. Hän vertasi suunniteltua elintä Yhdysvaltain finanssialan sääntelyviranomaiseen FINRA:an, joka on Wall Streetin itse säätelevä elin.

Aluksi tekoälykehittäjät voisivat vapaaehtoisesti toimittaa mallejaan testattavaksi 30 päivää ennen julkaisua. Testit keskittyisivät siihen, voisiko malli mahdollistaa kyberhyökkäyksiä, biologisia uhkia tai harhaanjohtavaa toimintaa. Tulevaisuudessa testauksesta voisi tulla pakollista tietyille kehittyneemmille malleille, mukaan lukien ulkomaiset ja avoimen lähdekoodin järjestelmät, jotka pyrkivät Yhdysvaltain markkinoille.

"Uskomme, että standardielin voi alkaa vapaaehtoisena, alan johtamana organisaationa, joka tulevaisuudessa virallistetaan lailla tai toimeenpanomääräyksellä", Googlen Frontier AI -politiikan ja globaalien asioiden johtaja Owen Larter totesi.