Microsoftin toimitusjohtaja Satya Nadella muutti käsitystään tekoälyn turvallisuudesta

Microsoftin toimitusjohtaja Satya Nadella on kertonut muuttaneensa kantaansa tekoälyn linjaamiseen (alignment) liittyen. Aiemmin Nadella uskoi, että tekoälymallien kehittyessä niiden toiminnan sovittaminen ihmisten arvoihin ja tavoitteisiin tapahtuisi luonnostaan. Nyt hän pitää tätä oletusta virheellisenä ja katsoo, että tekoälyn hallittavuus on itsenäinen ja huomattavasti monimutkaisempi ongelma, joka ei ratkea pelkällä teknisellä kehityksellä.

Nadellan muuttunut näkemys heijastelee teknologia-alalla yleistynyttä huolta siitä, etteivät tekoälyn suorituskyvyn ja turvallisuuden kehityspolut välttämättä kulje käsi kädessä. Lokakuun alussa Nadella kehotti yrityksiä suhtautumaan tekoälymalleihin sisäisinä turvallisuusuhkina ja vaati tiukempia ihmisohjattuja valvontamekanismeja.

Samankaltaisia huolia ovat esittäneet myös muiden alan yritysten, kuten OpenAI:n ja Anthropicin, johtajat. Alan sisällä keskustelu on kääntymässä pelkästä suorituskyvyn tavoittelusta kohti standardoitujen turvallisuusprotokollien ja ulkoisen säätelyn kehittämistä.