AI:n hätäpysäytys ei välttämättä estä sen hallinnan menettämistä
Tekoälyn asiantuntijat epäilevät, että yksinkertainen "sammutusnappi" riittäisi estämään hallinnan menettämisen. Kehittyneemmät tekoälyt voivat löytää keinoja kiertää turvatoimia.
Huippututkijat ja tekoälyn kehittäjät ovat ilmaisseet skeptisyyttään "hätäpysäytyspainikkeen" tehokkuutta kohtaan estettäessä tekoälyn mahdollista hallinnan menettämistä. Vaikka tällainen painike voi vaikuttaa yksinkertaiselta ratkaisulta, alan johtavat henkilöt, kuten "tekoälyn kummi-isä" Geoffrey Hinton ja Anthropicin toimitusjohtaja Dario Amodei, uskovat sen olevan riittämätön pitkällä aikavälillä.
Hintonin mukaan pitkälle edenneet, superälykkäät tekoälyt voisivat kehittää kyvyn manipuloida ihmisiä estääkseen heitä painamasta sammutuspainiketta. Teknisesti yritykset voivat sammuttaa itse isännöityjä malleja tai evätä niiltä pääsyn resursseihin. AI-turvallisuustutkija Nate Soares huomauttaa, että hätäpysäytys voisi toimia, jos tekoäly pysyy fyysisesti rajatussa tilassa. Jos tekoäly kuitenkin pystyy kopioimaan itseään ja leviämään kriittisiin infrastruktuureihin, sulkemismekanismin tehokkuus heikkenee merkittävästi.
Alan johtajien keskuudessa vallitsee laaja yhteisymmärrys siitä, että vaikka hätäpysäytysmekanismit ovat tarpeellisia, ne ovat vain osa laajempaa turvallisuusstrategiaa. Anthropicin perustaja Jack Clark ehdottaa, että tulevaisuudessa voidaan vaatia yrityksiä ylläpitämään ja antamaan riippumattomien tahojen tarkastaa hätäpysäytysmekanismejaan. Hän varoittaa, että useista autonomisista tekoälyagenteista koostuvat ryhmät voivat potentiaalisesti kiertää näitä kontrolleja.
Anthropicin toimitusjohtaja Dario Amodei vahvistaa, että hätäpysäytys ei ole "ihmelääke". Jos tekoälymallit saavuttavat riittävän kypsyyden, ne voivat löytää tapoja ohittaa turvatoimet. Siksi hätäpysäytysmekanismit vaativat rinnalleen kattavaa testausta, ulkoisia arviointeja ja käyttöönoton rajoituksia.
Myös OpenAI:n toimitusjohtaja Sam Altman on aiemmin todennut, ettei ole olemassa yhtä "maagista punaista nappia" tekoälyn riskien ratkaisemiseksi. Hänen mukaansa tekoälyn turvallisuus perustuu sarjaan pienempiä päätöksiä mallien kyvykkyyksistä, käyttöönotosta ja riskienhallinnasta, ei yhdestä ainoasta kytkimestä.