Microsoftin toimitusjohtaja: Tekoälymallien oletetaan pettävän

Microsoftin toimitusjohtaja Satya Nadella on esittänyt uusia ohjeita tekoälymallien kehittämiseen ja käyttöönottoon. Nadellan mukaan kehittäjien tulisi olettaa, että tekoälymallit voivat pettää tai joutua hyökkäyksen kohteeksi, ja siksi järjestelmiin on rakennettava vankat mekanismit niiden hallitsemiseksi ja keskeyttämiseksi.

Nadella painottaa, että perinteiset ohjelmistot ovat usein läpinäkyvämpiä, kun taas tekoälymallit toimivat enemmän mustina laatikoina. Nämä mallit käsittelevät arkaluontoisia tietoja ja suorittavat tehtäviä ihmisten puolesta, mikä lisää riskiä. Hän korostaa, että mallien tarjoajien ei tule ulkoistaa vastuuta tai sokeasti luottaa tekoälyn ehdotuksiin.

Keskeisiä periaatteita Nadellan mukaan ovat mallien moninaisuus, kaiken merkittävän toiminnan kirjaaminen muuttumattomasti, järjestelmän jatkuva testaus myös virhetilanteissa, riippumaton kontrolli mallien pääsystä tietoihin ja toimiin sekä riippumaton auditointi.

Erityisesti Nadella nostaa esiin tarpeen suunnitella järjestelmät niin, että ne voidaan aina keskeyttää tai sulkea. Hän vertaa tätä hätäjarruun. Kaikkien mallien tulisi oletusarvoisesti sisältää tällainen toiminto. Jos järjestelmät pettävät tai joutuvat hyökkäyksen kohteeksi, asiasta on tiedotettava nopeasti ja jaettava opitut asiat koko alalle.