Yritykset pelaavat tekoälyn suorituskykymittareita
Kun yritykset alkoivat mitata työntekijöidensä tekoälyn käyttöä ja liittää siihen palkkioita, monet alkoivat manipuloida mittareita sen sijaan, että olisivat keskittyneet todelliseen arvonluontiin.
Useat suuryritykset, mukaan lukien Meta, Disney, JPMorgan ja Accenture, ovat viime aikoina seuranneet ja arvioineet työntekijöidensä tekoälyn käyttöä. Aluksi yritykset pyrkivät mittaamaan ja edistämään tekoälyn käyttöä luomalla sisäisiä tulostaulukoita ja sisällyttämällä tekoälyn käyttöä suoritusarviointeihin. Nämä aloitteet ovat kuitenkin johtaneet odottamattomiin ja usein haitallisiin seurauksiin.
Ilmiötä, jossa työntekijät pyrkivät maksimoimaan tekoälyn käyttönsä näyttääkseen suoriutuvansa paremmin, kutsutaan nimellä "tokenmaxxing". Raporttien mukaan työntekijät keksivät tapoja lisätä tekoälyn tokenien käyttöä keinotekoisesti, jopa tehtävissä, jotka eivät sitä vaadi. Tämä johti mittareiden vääristymiseen ja kyseenalaisti niiden alkuperäisen tarkoituksen: todellisen tehokkuuden ja arvon mittaamisen.
On havaittu, että kun mittarista tulee tavoite, se lakkaa olemasta hyvä mittari – tämä ilmiö tunnetaan Goodhartin lakina. Kun työntekijöille asetetaan palkkioita tai seurauksia tiettyjen lukujen saavuttamisesta, he keskittyvät saavuttamaan kyseiset luvut keinolla millä hyvänsä. Tämä voi johtaa siihen, että yritykset käyttävät merkittäviä summia tekoälyyn ilman vastaavaa todellista hyötyä, ja kustannukset kasvavat hallitsemattomasti.
Mittareiden pelaaminen johtaa siihen, että ne menettävät ennustevoimansa. Kun kaikki näyttävät suoriutuvan samalla tavalla maksimoidakseen palkkionsa, erot korkean ja matalan suoriutumisen välillä katoavat. Tämä tekee mittareista hyödyttömiä todellisen arvonluonnin seuraamisessa. Yritysten onkin keskityttävä mittaamaan tekoälyn tuottamia tuloksia ja todellista liiketoiminnallista arvoa, eikä pelkästään sen käyttöön liittyviä syötteitä, kuten tokenien määrää.