Satya Nadella: Kaikkien tekoälymallien oletetaan olevan vaarantuneita

Microsoftin toimitusjohtaja Satya Nadella esitti X-alustalla julkaistussa kirjoituksessaan näkemyksiään kehittyneiden tekoälymallien vaaroista ja niiden riskien hallinnasta. Nadella totesi, ettei voida enää hyväksyä tilannetta, jossa tekoälyä kohdellaan 'joukkona sisäkkäisiä mustia laatikoita', joiden neuvoja ja toimia vain hyväksytään tai hylätään.

Hän vaatii läpinäkyvämmän järjestelmän rakentamista, jossa tekoälymalleja voidaan rajata, tarkkailla ja jotka jättävät jälkeensä 'manipulointisuojattua, ihmisen luettavissa olevaa todistusaineistoa'. Nadellan mukaan tekoälyn kehityksessä on kyse riski-infrastruktuurin rakentamisesta, johon kuuluvat läpinäkyvyys, turvallisuus ja vastuullisuus.

Monet Nadellan suosituksista, kuten oikea-aikainen ilmoittaminen tietoturvapoikkeamista, riippumattomat tarkastukset, todennettavissa oleva data ja mallien eristäminen, vastaavat alan muiden toimijoiden esittämiä vaatimuksia. Erityisesti mallien eristäminen ja valvonta ovat keskeisiä Nadellan huolenaiheita.

Nadella korosti, että tekoälyn kehitys vaatii jatkuvaa valppautta ja uudenlaista infrastruktuuria, joka kykenee hallitsemaan kehittyneiden tekoälyjärjestelmien potentiaalisia riskejä. Hän mainitsi myös tekoälyn turvallisuuden merkityksen globaalissa turvallisuuskeskustelussa.