Microsoftin presidentti kannattaa tekoälyn turvallisuuden riippumatonta arviointia

Microsoftin presidentti Brad Smith on ilmoittanut tukevansa tekoälyn turvallisuuden riippumatonta arviointia. Smithin mukaan turvallisuuden varmistaminen vaatii useita ihmisen hallinnassa olevia toimia.

YK:n yleiskokouksessa New Yorkissa käsiteltiin tekoälyn turvallisuutta ja sääntelyä. Smith haastattelussa Bloombergille totesi, että edistyminen tekoälyn turvallisuudessa vaikeutuu, jos vain yksi tai kaksi organisaatiota vastaa siitä. Hän korosti, että vaikka mallien kehittäjät ovat tärkeitä, myös ohjelmistokerroksesta vastaavat yritykset, kuten Microsoft, joilla on valta kontrolloida ja valvoa tekoälyagentteja, ovat avainasemassa.

Microsoftilla on OpenAI:n kanssa yhteinen turvallisuuskomitea, jonka kautta yritys osallistuu turvallisuuskeskusteluihin ja arvioi mallien julkaisukelpoisuutta. Smithin mukaan edistyneisiin järjestelmiin tulisi asentaa sammutuskytkimet ihmiskontrollin varmistamiseksi.

"Turvamekanismit on todella otettava käyttöön useilla tasoilla", Smith sanoi. Hän pohti, että jos kytkimiä voidaan sijoittaa useampaan paikkaan, miksi tyytyä vain yhteen.

Lisäksi Smith myönsi, että Microsoftin on tarkistettava ilmastotavoitteitaan. Tavoitteena oli aiemmin poistaa vuoteen 2030 mennessä enemmän hiilidioksidia ilmakehästä kuin yritys itse päästää. Uudet tekoälykeskusten virtalähteeksi hankitut maakaasuvoimalat ovat kuitenkin tehneet aikataulusta haastavamman. Smithin mukaan ilmastonmuutos on edelleen yksi tärkeimmistä kysymyksistä, mutta alkuperäisten tavoitteiden toteuttamistapaa on jouduttu tarkentamaan.