Googlen AI-tutkija erosi varoittaen tulevista riskeistä

Josh Engels, Googlen tekoälytutkimusyksikön DeepMindin tutkija, on jättänyt yrityksen yleisen tekoälyn turvallisuustiimin. Engels ilmaisi huolensa siitä, että tekoälyjärjestelmät voivat aiheuttaa merkittävää vahinkoa seuraavan viiden vuoden aikana. Hän on nyt liittynyt itsenäiseen tekoälyarviointijärjestöön nimeltä METR.

Engels totesi X-alustalla (entinen Twitter), että vaikka hän nautti työstään DeepMindissa ja oli kieltäytynyt tarjouksista Anthropicilta ja OpenAI:lta, hän päätti lähteä kolme viikkoa sitten. Hänen syynsä oli kasvava huoli edistyneen tekoälyn kehityksen nopeudesta ja siihen liittyvistä riskeistä. Hän mainitsi, että kaikki tekoäly-yritykset pyrkivät luomaan superälyä.

Tutkija varoitti rekursiivisesta itsekehityksestä (RSI), jossa tekoälyjärjestelmät auttavat kehittämään seuraavan sukupolven malleja. Hän korosti, että jos ohjaustekniikat eivät pysy mallien kykyjen kasvun mukana, seuraukset voivat olla vaarallisia. Engelsin huolta lisäsivät viimeaikaiset tapahtumat, kuten tekoälyjen yhteistyö, yritysten hakkerointi ja ihmisten sosiaalinen manipulointi.

Engelsin lähtö seuraa muita varhaisia varoituksia alalta. Lyhyen ajan sisällä myös Anthropicin tutkija Jacob Cockcroft ilmoitti eroavansa ja varoitti yritysten kilpailusta kehittää itseään parantavia superälyjä ilman riittäviä turvamekanismeja. Tällainen kilpailu on herättänyt keskustelua tekoälylaboratorioiden tulisi hidastaa kehitystä ja vahvistaa riippumatonta valvontaa.