Microsoftin Nadella varoittaa: Tekoäly voi kääntyä yrityksiäsi vastaan

Microsoftin toimitusjohtaja Satya Nadella on esittänyt varoituksen yrityksille, jotka hyödyntävät tekoälypalveluita. Nadellan mukaan yritykset saattavat maksaa tekoälystä kahdesti: kerran suorina token-maksuina ja toisen kerran paljastaen yrityksille elintärkeää tietoa, jota tekoälymallien tarjoajat voivat hyödyntää ja lopulta kilpailla asiakkaitaan vastaan.

Nadella korosti blogikirjoituksessaan, että mitä enemmän yritykset haluavat tekoälyn suoriutuvan paremmin, sitä enemmän ne joutuvat syöttämään malliin omaa tietoaan. Tämä tieto, joka sisältää muun muassa pyyntöjä, työkalujen käyttöä ja virheiden korjauksia, kertoo malleille yrityksen toimintatavoista ja oppimisprosesseista. Nämä mallit voivat sitten hyödyntää tätä tietoa kehittäessään uusia palveluita, jotka kilpailevat suoraan syötteitä antaneiden yritysten kanssa.

Varoitus nousi esiin keskustelussa tekoälyn riskeistä, erityisesti suurten tekoälylaboratorioiden käyttäessä omia mallejaan "Troijan hevosina". Toisin kuin yritykset, jotka voivat hankkia runsaasti dataa internetistä malliensa kouluttamiseen, yksittäiset yritykset luovuttavat arvokasta sisäistä tietoa käyttäessään tekoälypalveluita.

Nadella ehdotti, että yrityksillä pitäisi olla vastaava oikeus tutkia ja "tisletä" tekoäly-yritysten malleja samalla tavalla kuin tekoäly-yritykset käyttävät julkista tietoa omien malliensa kouluttamiseen. Hän kritisoi kaksinaismoralismia, jossa tekoäly-yritykset saavat hyödyntää maailmanlaajuista dataa, mutta rajoittavat muiden mahdollisuuksia tutkia omia mallejaan. Tätä hän piti "itsestäänselvästi tekopyhänä" käyttäytymisenä.