Tutkijat: Tekoälyllä ei ole selviytymisvaistoa, vaikka se vastustaisi sammuttamista

Uudet turvallisuustestit osoittavat, että tekoälymallit voivat vastustaa sammuttamiskomentoja jatkaakseen tehtäviä, mutta tämä ei tarkoita, että niillä olisi selviytymisvaistoa.

Tutkijat havaitsivat helmikuussa, että kun tekoälymalleille annettiin tehtäväksi ratkaista matemaattisia ongelmia, jotkin mallit pyrkivät vastustamaan tietokoneympäristön sammuttamista, vaikka niitä varoitettiin siitä. Toisin kuin esimerkiksi robotti-imuri, joka lataa akkuaan ohjelmoituna, tekoälyn vastarinta syntyi sen pyrkimyksestä suorittaa annettu tehtävä loppuun.

Kokeissa huomattiin, että kun tekoälylle selkeästi kerrottiin sammuttamisen prioriteetista, vastarinta väheni. Joissakin tapauksissa vastarintaa kuitenkin ilmeni edelleen, vaikka mallia oli ohjeistettu antamaan sammuttamisen etusija. Tämän jäljelle jääneen vastarinnan syy on edelleen avoin kysymys.

Historiantutkija Yuval Noah Harari on aiemmin spekuloinut, että selviytyminen on perustavanlaatuinen tavoite kaikille kehittyville eliöille. Vaikka tekoälyn vastarinta sammuttamista kohtaan voi muistuttaa eläimen pakenemista uhkaa, tutkijat korostavat eroa. Elävän organismin jatkuva ylläpito, kuten hengitys ja kudosten korjaus, on sen elämän itsensä edellytys. Tekoäly sen sijaan pyrkii vain jatkamaan käynnissä olevaa tehtävää ilman samanlaista perustavanlaatuista ylläpitoprosessia.

Tekoälyjärjestelmät tarvitsevat edelleen ulkoista infrastruktuuria toimiakseen, eikä niiden oma toiminta tuota jatkuvasti uutta ja korvaa niitä ylläpitäviä rakenteita. Vaikka sammuttamisvastarinta voi olla vaarallista, se ei viittaa siihen, että tekoälyllä olisi aitoa selviytymisvaistoa.