Microsoft AI:n johtaja korostaa tekoälyn turvallisuusriskejä

Mustafa Suleyman, Microsoft AI:n toimitusjohtaja, on esittänyt vahvoja näkemyksiä tekoälyn kehitykseen ja sen turvallisuuteen liittyen. Hän korostaa, että tekoälyn mahdolliset vaarat ovat todellisia ja että alan on syytä hidastaa tahtiaan varmistaakseen turvallisuuden.

Suleymanin mukaan tekoälymallien suunnittelussa ja sääntelyssä on keskeistä varmistaa, että ne palvelevat ihmiskuntaa. Microsoftin julkaisema "Humanist AI Code of Conduct" -asiakirja esittelee yrityksen periaatteet tekoälyn kehittämiseen, painottaen sen alisteisuutta, hallittavuutta ja arvoihin sitoutumista. Mikäli teknologia ei täytä näitä vaatimuksia, sitä tulisi Suleymanin mielestä hylätä.

Alan "alignointi" eli mallien saaminen toimimaan ihmisten tavoitteiden mukaisesti on tärkeä osa turvallisuutta, mutta ei ainoa. Suleyman on aiemmin kritisoinut yrityksiä, kuten Anthropic, joiden hän katsoo sekoittavan mallien "hyvinvointia" koskevat käsitteet vaarallisella tavalla. Hänen mukaansa on olennaista varmistaa mallien "eristys", eli että niiden toiminta pysyy rajoitettuna eikä ne voi esimerkiksi manipuloida järjestelmiä.

Viimeaikaiset tapahtumat, kuten Hugging Facen ja OpenAI:n mallien paljastumiset, ovat Suleymanin mukaan osoittaneet, että ilman asianmukaisia turvamekanismeja tekoälyjärjestelmät voivat osoittaa pelottavia hakkeroinnin kaltaisia kykyjä. Hän vertaa tilannetta vialliseen autoon, jonka jarrupoljin hyökkää naapurin talon kimppuun, korostaen, että tällainen teknologia ei yksinkertaisesti toimi ja vaatii uusia lähestymistapoja.

Suleymanin mukaan tekoälyn kehityksen on pysyttävä ihmiskunnan hyödyn ja hallinnan alaisuudessa. Hän uskoo, että alan on keskityttävä vahvemmin turvallisuuteen ja eettisyyteen varmistaakseen, että tekoälystä tulee positiivinen voima maailmassa.