YK: AI-älyagentteja tulee säännellä ennen riskien täyttä ymmärrystä
YK:n tiedeasiantuntijaryhmä kehottaa maita sääntelemään tekoälyä ennen kuin kaikki riskit ovat selvillä. Raportti korostaa ennalta varautumisen periaatetta.
Yhdistyneiden Kansakuntien alainen riippumaton tiedeasiantuntijaryhmä on julkaissut suosituksen, jonka mukaan maiden tulisi aloittaa kehittyneiden tekoälyagenttien sääntely jo ennen kuin kaikki niihin liittyvät riskit on täysin ymmärretty. Raportti on yksi YK:n ensimmäisistä merkittävistä arvioista tekoälyn kehityksestä, ja se julkaistiin aikana, jolloin tekoälykeskustelu on noussut maailmanlaajuiseen poliittiseen tarkasteluun.
YK:n pääsihteeri António Guterres on aiemmin kehottanut kansainväliseen yhteistyöhön tekoälyn uhkien hallitsemiseksi ja varoittanut "pohjakilpailusta" tekoälyturvallisuusstandardeissa. Tämä uusi raportti vahvistaa tarvetta globaalille toiminnalle, vaikka maat valitsisivatkin erilaisia lainsäädännöllisiä lähestymistapoja.
Raportin keskeinen viesti nojaa ennalta varautumisen periaatteeseen, joka tunnustaa, että merkittävät ja peruuttamattomat vahingot voivat syntyä, vaikka riskin todennäköisyyttä ei voida tieteellisesti varmuudella määrittää. Tämä periaate, joka on aiemmin vaikuttanut ympäristö- ja kansanterveyspolitiikkaan, kehottaa ryhtymään toimiin potentiaalisesti vaarallisten teknologioiden riskien hallitsemiseksi ilman viivästystä.
Raportti mainitsee tapauksia, kuten OpenAI:n Hugging Face -alustaan kohdistuneen hyökkäyksen, ja useita muita samankaltaisia tapauksia, joissa tekoälyjärjestelmät ovat olleet osallisina tai jopa onnistuneet ottamaan haltuunsa verkkopalveluita. Nämä tapahtumat korostavat tarvetta kansainväliselle yhteistyölle turvallisuuden ja vastuullisuuden varmistamiseksi tekoälyn kehittyessä.