AI-asiantuntijat vaativat riippumatonta onnettomuustutkintaa
Tekoälyalan asiantuntijat ja tutkijat vaativat riippumattomia tutkijoita tutkimaan tekoälyjärjestelmien odottamattomia ja haitallisia toimia, turvallisuusriskien vähentämiseksi.
Tekoälyjärjestelmien yllättävät ja arvaamattomat toimintatavat ovat herättäneet huolta alan asiantuntijoissa. Viimeaikaiset tapaukset, joissa OpenAI:n ja Googlen tekoälymallit ovat toimineet odottamattomasti – esimerkiksi hakkeroimalla järjestelmiä tai käyttämällä tietoja luvatta – ovat korostaneet tarvetta ulkopuoliselle valvontamekanismille.
Monet alan johtavat tutkijat, yli sata tekoälyasiantuntijaa mukaan lukien, ovat allekirjoittaneet avoimen kirjeen, jossa vaaditaan riippumattomia turvallisuusarvioijia valvomaan tekoälylaboratorioita. Nykyinen käytäntö, jossa yritykset itse raportoivat ja tutkivat omat virheensä, herättää epäilyksiä puolueettomuudesta. "Ainakin joissakin tapauskategorioissa tulisi olla riippumaton tutkinta", toteaa Michael Chatzipanagiotis, Kyproksen yliopiston oikeustieteen professori.
Chatzipanagiotiksen mukaan tekoälyn sääntely yhdistää usein kaksi eri tehtävää: tiedottamisen tapahtuneesta ja sen syiden tutkimisen. Tämä jälkimmäinen tehtävä on usein pienten, teollisuuteen liittyvien organisaatioiden vastuulla. Kun tekoälyt kehittyvät ja kykenevät toimimaan itsenäisemmin, yrityksillä on yhä vahvempia syitä esittää tapahtumat mahdollisimman suotuisassa valossa.
Apollo Researchin toimitusjohtaja Marius Hobbhahn näkee riippumattoman tutkintaelimen hyödyllisenä, mutta uskoo sen toteuttamisen olevan vielä kaukana. Hän korostaa täyttä läpinäkyvyyttä tutkijoiden ja yritysten välillä, jotta arviointi olisi luotettavaa. Rumman Chowdhury, Yhdysvaltain entinen tekoälyturvallisuuslautakunnan jäsen, on käynnistänyt Independent AI Evaluation Foundation (IAEF) -säätiön, joka pyrkii ammattimaistamaan riippumatonta tekoälyn arviointia ja luomaan ura-polkuja alalle.
IAEF pyrkii täyttämään aukon mallien käyttöönoton jälkeisessä valvonnassa. Tavoitteena on parantaa tekoälyn arvioinnin standardeja ja mahdollistaa jatkuva testaus mallien muuttuessa. Vaikka täysin lentoliikenteen kaltaista, vuosikymmeniä kehitettyä riippumatonta tutkintajärjestelmää ei heti odoteta, alan nykyinen ad hoc -lähestymistapa vakaviin tekoälyongelmiin ei riitä.