Anthropic ehdottaa tekoälyn sääntelyä

Tekoäly-yhtiö Anthropic on ehdottanut Yhdysvaltain lainsäätäjille uutta lakiluonnosta, jonka tarkoituksena on säännellä kehittyneiden tekoälymallien turvallisuutta ja hallita niihin liittyviä riskejä.

Luonnoksen mukaan Yhdysvaltain kauppaministeriö voisi hakea oikeuden määräystä mallin käytön keskeyttämiseksi, jos se aiheuttaa ennakoitavissa olevan ja välittömän yli miljardin dollarin vahingon riskin tai yli 50 ihmisen hengen tai vakavan loukkaantumisen vaaran. Tällaiset riskit liittyisivät esimerkiksi biologisen aseen kehittämiseen, mallin hallinnan pettämiseen tai kyberhyökkäykseen.

Lakiluonnos vaatisi myös riippumattomia arvioijia, jotka rekisteröityisivät kauppaministeriöön. Nämä arvioijat tarkastaisivat säännöllisesti tekoälylaboratorioita ja kehittyneitä malleja, ja heidän olisi raportoitava välittömistä riskeistä 72 tunnin kuluessa arvioinnin valmistumisesta.

Ehdotus tulee Yhdysvalloissa käynnissä olevan tekoälyn sääntelykeskustelun keskelle. Kongressissa on jo esitelty FRONTIER Act -niminen laki. Kauppaministeriö vastaa Yhdysvaltain vientivalvonnasta, ja sen on laajennettu soveltamaan myös kehittyneitä tekoälymalleja.