Tekoälyllä hinnoitteluun ja laskentaan – mitä yritysten tulee varoa
Suuri kielimalli (LLM) ennustaa lukuja, ei laske niitä. Yritysten tulisi käyttää deterministisiä työkaluja kaikkiin numeroihin, joihin asiakkaat voivat vedota, kuten hintoihin tai veroihin.
Yritysten on oltava varovaisia käyttäessään tekoälyä (AI) taloudellisissa laskelmissa, jotka vaikuttavat asiakkaisiin. Vaikka tekoälyä hyödyntää jo 77 % yhdysvaltalaisista pienistä ja keskisuurista yrityksistä, sen käyttö hintojen, maksujen ja muiden asiakkaiden toimiin vaikuttavien lukujen laskemiseen voi aiheuttaa merkittäviä riskejä.
Tekoälymallit, erityisesti suuret kielimallit (LLM), ovat ennustusjärjestelmiä eivätkä niinkään laskentatyökaluja. Tämä tarkoittaa, että ne tuottavat todennäköisimpiä vastauksia datan perusteella, mutta eivät välttämättä suorita tarkkoja matemaattisia operaatioita. Luvut, jotka asiakas voi ottaa tosissaan ja joihin hän voi vedota – kuten hintatarjoukset, toimitusarviot, verolukemat, annostukset tai valuuttamuunnokset – tulisi aina johdattaa deterministisistä järjestelmistä, ei suoraan tekoälymallista.
Tarkkuus on ratkaisevaa. Vaikka tekoäly voi tuottaa vakuuttavan kuuloisia vastauksia, se voi tehdä virheitä pyöristyksissä, kaavoissa tai jopa kääntää oikean vastauksen vääräksi paineen alla. Esimerkiksi BMW:n autoliikkeen tapauksessa tekoälychatbot antoi asiakkaalle virheellisen auton ostohinnan, joka todellisuudessa oli asiakkaan jäljellä oleva lainasumma. Tämä virhe osoittaa, kuinka kielteisesti epätarkat numerot voivat vaikuttaa yrityksen maineeseen ja asiakasluottamukseen.
Alan asiantuntijat suosittelevat, että jos sama kysely toistettuna 100 kertaa tuottaisi aina saman vastauksen, tämän vastauksen tulisi tulla deterministisestä työkalusta. Tekoälyn rooli tässä yhteydessä tulisi olla kysymyksen ymmärtäminen ja oikean työkalun valitseminen laskennan suorittamiseksi. Vain näin voidaan varmistaa lukujen tarkkuus ja välttää potentiaaliset taloudelliset ja maineriskit.