Yritykset vähentävät tekoälyn "tokenmaxxing"-villitystä kustannusten nousun vuoksi
Yritykset karsivat tekoälyn "tokenmaxxing"-käytäntöjä, joissa suosittiin suurta tokenien käyttöä tuottavuuden sijaan. Kasvavat kulut ja rajallinen hyöty ovat johtaneet kustannustehokkaampiin ratkaisuihin.
Monet yritykset ovat alkaneet tarkastella tekoälyinvestointiensa tuottoja kriittisemmin, kun "tokenmaxxing"-villitys, eli tekoälyn käyttäminen mahdollisimman suuren määrän tokenien generoimiseksi, on osoittautunut kalliiksi. Kun tekoälytyökalujen käyttö on lisääntynyt, myös kustannukset ovat nousseet ilman vastaavaa tuottavuuden kasvua.
"Tokenmaxxing" viittaa tekoälyn käyttämiseen mahdollisimman tehokkaasti, missä tokenit ovat pieniä tekstin palasia, joita tekoäly lukee tai kirjoittaa. Kalliimmat tekoälyversiot tarjoavat korkeampia token-rajoja, mutta yritykset ovat huomanneet, että työkalujen jatkuva käyttäminen muodostaa merkittävän kuluerän. Moody's Ratingsin tekoälyanalytiikan johtaja Vincent Gusdorf korostaa tarvetta kurinalaisemmalle lähestymistavalle.
Alun perin korkeaa tokenien käyttöä pidettiin merkkinä tehokkaista työntekijöistä ja se kasvatti suurimpien kielimallien kehittäjien, kuten OpenAI:n ja Anthropicin, tuloja. Trendi kuitenkin laantui, kun yritykset alkoivat epäillä sen yleistä soveltuvuutta. Esimerkiksi Microsoftin toimitusjohtaja Satya Nadella on huomauttanut, että asiakkaat maksavat tekoälystä kaksinkertaisesti: sekä tokenien käytöstä että omistamiensa tietojen antamisesta malleille.
Sen sijaan, että turvauduttaisiin kalliimpiin ja tehokkaampiin tekoälymalleihin kaikkiin tehtäviin, yritykset etsivät nyt työkaluja, jotka "reitittävät" tekoälypyynnöt automaattisesti. Edullisemmat ja tehokkaammat mallit hoitavat yksinkertaisemmat tehtävät, kun taas monimutkaisemmat pyynnöt ohjataan tehokkaammille järjestelmille. Kiinalaisten avoimen lähdekoodin mallien, kuten Moonshotin Kimi ja Zhipu GLM, nousu tarjoaa myös edullisempia vaihtoehtoja, jotka lähentelevät yhdysvaltalaisten huippumallien suorituskykyä.