AI-johtajat vaativat kehityksen hidastamista turvallisuushuolien vuoksi

Tekoälyn kehityksen kärjessä olevat johtajat, Sam Altman OpenAI:sta ja Dario Amodei Anthropicista, ovat ilmaisseet huolensa teknologian nopeasta tahdista ja vaativat sen hidastamista mahdollisten eksistentiaalisten riskien välttämiseksi.

Altman kuvaili sosiaalisessa mediassa kahta skenaariota, joissa tekoälyn kehitys voi mennä pieleen. Ensimmäinen on se, että ihmiskunta menettää kontrollin tulevaisuudesta tekoälylle. Hän korosti, että tekoälyn on aina palveltava ihmisiä ja turvallisuustekniikoiden on pysyttävä kehityksen tahdissa.

Toinen huolenaihe Altmanille on tekoälyn monopolisoituminen. Hän varoitti, että jos voimakas tekoäly joutuu yhden henkilön tai yrityksen käsiin, se voi johtaa dystooppiseen tulevaisuuteen, jossa yksi maailmankuva pakotetaan kaikille. Altman vaatii, että tekoäly-yritysten ja hallitusten on löydettävä tasapainoinen tie, jossa yksikään maa tai laboratorio ei hallitse liikaa teknologian tulevaisuutta.

Amodei puolestaan julkaisi esseen, jossa hän esitti samanlaisia ajatuksia. Hänkin kannatti tekoälyn kehityksen hidastamista, mutta ei sen pysäyttämistä kokonaan. Hänen mukaansa teknologian rakentamatta jättäminen riistäisi ihmiskunnalta sen hyödyt ja antaisi sen autoritaaristen valtojen käsiin, kun taas liian nopea kehitys olisi uhkarohkeaa.

Amodei ehdotti kolmivaiheista suunnitelmaa tekoälyn turvallisen kehityksen varmistamiseksi. Suunnitelma sisältää kolmannen osapuolen arvioijien integroimisen, demokraattisten maiden yritysten yhteistyön turvallisuusstandardien luomiseksi sekä maailmanlaajuisen koordinaation, jossa demokraattiset hallitukset pyrkisivät asettamaan turvallisuusstandardeja myös autoritaarisille maille.