Microsoftin Nadella: Tekoälyyn tarvitaan ihmisten hallitsema hätäjarru

Microsoftin toimitusjohtaja Satya Nadella on vaatinut, että kehittyneisiin tekoälyjärjestelmiin on sisällytettävä ihmisten hallitsema "hätäjarru". Nadellan mukaan järjestelmien tulisi sisältää myös valvontaa ja itsenäisiä kontrollimekanismeja, jotta auktorisoidut henkilöt voisivat keskeyttää tai sammuttaa mallin tarvittaessa.

Nadella korosti tarvetta ympäröidä epädeterministiset mallit "vahvalla, deterministisellä järjestelmäsuunnittelulla, ihmiskontrolleilla ja luotettavilla toimintamenettelyillä". Hän ehdotti myös teollisuusstandardien luomista, jos nykyiset eivät riitä. Ajatuksena on kohdella kehittyneitä, sekä suljettuja että avoimia tekoälymalleja sisäpiirin riskeinä.

Nämä kommentit tulevat keskellä kasvavia varoituksia muilta teknologiajohtajilta ja tutkijoilta. Monet ovat ilmaisseet huolensa tekoälyn turvallisuusprotokollien riittämättömyydestä ja teknologian liian nopeasta kehityksestä. Jotkut tutkijat ovat jopa varoittaneet ihmiskunnan eloonjäämisriskistä.

Vastakohtana jotkut poliittiset toimijat, kuten Yhdysvaltain entinen presidentti Donald Trump, ovat tyrmänneet tekoälyn sukupuuttoon liittyvät riskit ja korostaneet tarvetta pysyä Kiinan edellä tekoälyn kehityksessä. Trumpin hallinto on kuitenkin myös käynnistänyt turvallisuuteen keskittyneen työryhmän.

Nadella jatkoi, että luotettavin superälyjärjestelmä ei ole se, johon luotetaan eniten, vaan se, joka mahdollistaa vähiten luottamisen itse malliin, korostaen näin kontrollin ja valvonnan merkitystä.