Yritykset panostavat tekoälylaskentaan nopeuden vuoksi, mutta kustannukset jäävät pimentoon
Suuri osa yrityksistä ajaa tekoälytyökuormia tuotannossa, mutta kustannusten seuranta ei pysy perässä. Suorituskyky ja GPU-saatavuus ohittavat nyt kokonaiskustannukset ostopäätöksissä.
Tutkimus paljastaa, että kaksi kolmasosaa yrityksistä ajaa tekoälytyökuormia tuotannossa, ja lähes kolmasosa tekee sen jo suuressa mittakaavassa. Samaan aikaan yritysten kyky seurata tekoälylaskentainfrastruktuurin todellisia kustannuksia ei ole pysynyt kehityksen tahdissa.
Perinteisesti kustannukset ovat olleet keskeinen tekijä hankintapäätöksissä, mutta tekoälyn osalta tilanne on muuttumassa. Nopeus ja saatavuus ovat nousseet tärkeämmiksi kuin kokonaiskustannukset (TCO), ja luotettavuus on syrjäyttänyt hinnan menestyksen mittarina. Tämä prioriteettien muutos johtuu todennäköisesti paineesta saada tekoälyratkaisut toimimaan tuotannossa, mutta se luo epämukavan todellisuuden: alle puolet yrityksistä pystyy seuraamaan tekoälylaskennan kustannuksia tarkasti.
Useimmat käytössä olevista GPU-kiihdyttimistä toimivat vain puolilla kapasiteetistaan tai vähemmän, ja tulevat investoinnit kohdistuvat erikoistuneisiin pilvipalveluihin, joita vain harva yritys tällä hetkellä käyttää. Suosituimpia alustoja ovat OpenAI, Google Gemini ja Microsoft Azure, joista Azure on pääasiallinen alusta 26 prosentille.
Suunnitteilla olevista investoinneista merkittävä osa kohdistuu tekoälyyn erikoistuneisiin pilviympäristöihin, vaikka nykyinen käyttö onkin vähäistä. Myös Nvidian ulkopuoliset kiihdyttimet kiinnostavat. Yritykset aikovat lisätä tai vaihtaa palveluntarjoajaa tulevan vuoden aikana, mutta harkintalistalla ovat usein samat suuret toimijat, joita ne jo käyttävät.
Tutkimukseen osallistui 170 yritystä, ja se keskittyi erityisesti tekoälyinfrastruktuurin, laskentatehon ja taloudellisten näkökohtien analysointiin. Tulokset osoittavat, että yritykset ovat siirtymässä kokeiluasteelta aktiiviseen tuotantokäyttöön, mutta taloudellinen seuranta vaatii parannuksia.