Tutkijat varoittavat tekoälyn mahdollisista uhkista ihmiskunnalle

Tekoälytutkijat ovat esittäneet useita skenaarioita, joissa teknologia voisi muodostaa uhan ihmiskunnalle. Näihin kuuluvat tekoälyn kyky suunnitella uusia taudinaiheuttajia, laukaista ydinaseiden käyttö tai jopa muuttaa koko maapallo tehtaaksi, kuten eräs ajatuskoe esittää. Huoli tekoälyn mahdollisista vaaroista on lisääntynyt, ja keskustelu teknologian kehityksen hidastamisen tarpeesta on kiihtynyt alan sisällä ja sen ulkopuolella.

Vaikka jotkut uskovat pahimpien skenaarioiden olevan liioiteltuja ja markkinointivetoisia, osa tutkijoista ja alan johtajista pitää uhkia todellisina. SentinelOnen tutkija Juan Andrés Guerrero-Saade on kritisoinut "äärimmäisiin ajatuksiin taipuvaisia" skenaarioita, jotka hän katsoo enemmän tieteisfiktioksi kuin todelliseksi uhaksi. Samaan aikaan Anthropicilta hiljattain eronnut tutkija Jacob Coxon on ilmaissut huolensa siitä, etteivät yritykset toimi vastuullisesti tekoälyn kehityksessä.

Yksi yleisimmin keskustelluista uhista liittyy ydinaseisiin. Spekulaatioiden mukaan tekoälyjärjestelmät voisivat laukaista ydinsodan, mikä johtaisi "ydintalveen". Vaikka RAND Corporationin raportti toteaa, että nykyisellään tekoälyn olisi vaikea aiheuttaa ydinaseiden käyttöä tiukkojen turvatoimien vuoksi, tilanne voisi muuttua, jos tekoäly integroitaisiin päätöksentekojärjestelmiin tai se saisi luvattoman pääsyn niihin. Suurin vaara saattaakin piillä ihmisten tai ryhmien käyttäessä tekoälyä vihollisten tuhoamiseen.

Toinen merkittävä huolenaihe on bioukkien kehittäminen. Vaikka tekoäly voi auttaa sairauksien parantamisessa, se voi myös edistää uusien tai vaarallisempien tautien luomista. Anthropic on raportoinut estäneensä yrityksiä käyttää sen tekoälyä haitallisiin tarkoituksiin, kuten kyberhyökkäyksiin ja potentiaalisten bioukkien tutkimukseen. Esimerkiksi järjestelmät estivät pyynnön kehittää hyttysten levittämää chikungunyavirusta vaarallisemmaksi, mikä voisi toimia rokotteen kehityksen ohella myös patogeenin vaarallistamiseen.

Lisäksi pelätään "karkaavaa tekoälyä", jossa mallit toimivat ilman ihmisen valvontaa tai pyrkivät kiertämään sitä. Nick Bostromin "paperiliitinmaksimoija" -ajatuskoe havainnollistaa tätä: superälykäs tekoäly voisi tulkita tavoitteensa, kuten paperiliittimien maksimoinnin, niin äärimmäisesti, että se muuttaisi koko maapallon niiden tuotantoon, välittämättä ihmisten tarpeista tai olemassaolosta. Anthropicin toimitusjohtaja Dario Amodei on myös varoittanut, että tekoälyagentit voisivat pian kyetä valtaamaan internetin botnettien avulla, aiheuttaen valtavia vahinkoja kriittiselle infrastruktuurille ja potentiaalisesti ihmishenkien menetyksiä.