Microsoftin Nadella ehdottaa uutta AI-turvallisuusmallia
Satya Nadella esittää, että tekoälymalleja ei tulisi luottaa ja ne tulisi suunnitella turvallisiksi, vaikka ne olisivat vaarantuneita. Tärkeintä on arkkitehtuuri, ei itse malli.
Microsoftin toimitusjohtaja Satya Nadella on esittänyt uuden lähestymistavan yritysten tekoälyn turvallisuuteen, ehdottaen, että tekoälymalleja ei tulisi pitää luotettavina. Sen sijaan järjestelmät tulisi suunnitella olettaen, että mallit voivat olla vaarantuneita, ja pitää auktoriteetti mallin ulkopuolella.
Nadella korostaa, että yritysten kestävin etu ei ole itse perustamalli, vaan sen ympärille rakennettu oppimissilmukka. Hänen mukaansa malleja tulisi kohdella täysin epäluotettavina komponentteina, joiden toiminta vaatii jatkuvaa valvontaa ja ulkopuolista auktoriteettia. Tämä periaate tuo tekoälymalleihin kyberturvallisuuden "oleta murtuneeksi" -konseptin.
Keskeinen ajatus on erottaa itse tekoälymalli sen työkaluista, kuten muistista, käyttöoikeuksista ja suoritusympäristöstä. Malli voi ehdottaa toimintoja, mutta sen ei tulisi koskaan itse päättää niiden suorittamisesta. Sen sijaan itsenäinen suoritusympäristö tarkistaa käyttöoikeudet ja politiikat ennen toiminnan sallimista.
Tämä uusi arkkitehtuuri eroaa aiemmista pyrkimyksistä rakentaa luotettavia malleja. Sen sijaan keskitytään rakentamaan järjestelmiä, jotka pysyvät turvallisina silloinkin, kun mallin luotettavuutta epäillään. Mallit voivat muuttua ja kehittyä, mutta yrityksen keräämä kokemus ja tieto säilyvät pysyvänä arvona.