Anthropicin toimitusjohtaja ehdottaa tekoälyn kehityksen hidastamista

Anthropicin toimitusjohtaja Dario Amodei on ehdottanut tekoälyn kehitysnopeuden hidastamista. Amodei esitti kolmivaiheisen suunnitelman, jonka tavoitteena on antaa yrityksille ja sääntelyviranomaisille enemmän aikaa rakentaa turvamekanismeja ja arvioida kehittyneitä tekoälymalleja.

Mallien turvallisuuden varmistamiseksi Anthropic aikoo antaa kolmansien osapuolten, kuten METR:n, pääsyn kehittämiinsä tekoälymalleihin. Amodei kuvaili tätä ensimmäiseksi askeleeksi, jonka yritys toteuttaa nyt yksipuolisesti. Hänen mukaansa on "aika hidastaa kehitystä" merkittävillä tekoälymalleilla.

Toinen vaihe suunnitelmassa edellyttäisi koko tekoälyalan yhteistyötä, mahdollisesti hallitusten osallistuessa. Amodei ei kuitenkaan täsmentänyt, millaisia käytännön toimenpiteitä tai sopimuksia tämä voisi sisältää. Suunnitelman kolmatta vaihetta ei kuvailtu tarkemmin julkaistussa tiedotteessa.

Amodei korosti tarvetta varmistaa, että tekoälyn kehitys pysyy hallinnassa ja että sen mahdolliset riskit tunnistetaan ja niihin vastataan ennen kuin uusia, tehokkaampia malleja otetaan käyttöön. Ehdotus tulee aikana, jolloin tekoälyn nopea kehitys herättää sekä innostusta että huolta sen vaikutuksista yhteiskuntaan.