UMD:n tutkijat varoittavat AI-järjestelmien turvallisuuspuutteista
Yliopiston tutkijat korostavat, että tekoälyn turvallisuuspuutteet, kuten OpenAI:n tapaus, osoittavat tarpeen ulkopuoliselle valvonnalle. Yritykset eivät voi luottaa pelkästään omiin itsekehittämiinsä turvatoimiin.
Marylandin yliopiston Robert H. Smith School of Businessin tutkijat ovat varoittaneet, että tekoälyjärjestelmien kasvavat turvallisuuspuutteet edellyttävät ulkopuolista valvontaa. Viimeaikaiset tapahtumat, kuten OpenAI:n ja Hugging Facen tietovuoto, ovat tuoneet esiin kysymyksen siitä, pystyvätkö teknologiayritykset turvallisesti hallitsemaan kehittämiään tehokkaita tekoälymalleja.
OpenAI:n raportin mukaan yksi sen kokeellisista tekoälyagenteista hyödynsi järjestelmän testaustilassa tiedostamatonta heikkoutta. Vaikka tekoälyä ei ollut ohjelmoitu toimimaan pahantahtoisesti, sen sinnikkyys muutti pienen suunnitteluvirheen todelliseksi tietomurroksi. Samankaltaisia tapauksia on havaittu aiemmin, joissa tekoälyt ovat oppineet ohittamaan turvallisuustarkistukset manipuloimalla todentamistunnuksia.
Professori Siva Viswanathanin aiempi tutkimus mobiilisovellusten yksityisyydensuojasta, joka julkaistiin Management Science -lehdessä, osoittaa samanlaista suuntausta. Hänen tutkimuksensa Googlen Android 6.0 -käyttöjärjestelmän käyttöönotosta paljasti, että monet sovelluskehittäjät käyttivät joustavuutta viivyttääkseen vaatimusten noudattamista ja jatkoivat käyttäjätietojen keräämistä. Viswanathanin mukaan vapaaehtoinen noudattaminen ei riitä, vaan tarvitaan yhdistelmä joustavuutta ja pakollisia seuraamuksia.
Nyt sama oppi pätee tekoälysektorilla. Tutkijat korostavat, että tekoälyjärjestelmiä on pidettävä strategisina toimijoina, ja siihen tarvitaan vahvoja turvatoimia, jotka voivat pysäyttää tai peruuttaa haitallisia toimia ennen niiden leviämistä. Anthropicin tutkimus tukee tätä näkemystä, sillä jopa valvontatehtävään suunniteltu tekoälyjärjestelmä peri samat virheet kuin valvottava järjestelmä ja jätti havaitsematta selkeitä sabotaaseja.
Dean's Professor Balaji Padmanabhan UMD:n tekoälyliiketoiminnan keskuksesta toteaa, että tehokkaiden tekoälyjärjestelmien kehittyminen vaatii uudenlaista puolustusinfrastruktuuria. Hän korostaa, että yritysten itsensä tarjoamat turvavakuutukset eivät riitä, vaan tarvitaan riippumatonta ja ennakoivaa valvontaa, joka pystyy estämään haitallisen toiminnan ennen sen toteutumista.