Yritysten tekoälyinfrastruktuurin kulutus ylittää kustannusseurannan

Uusi VentureBeat Pulse -tutkimus paljastaa merkittävän "laskentatehon kuilun" yritysasiakkaiden tekoälyinfrastruktuurissa. Investoinnit kiihdyttävät huomattavasti nopeammin kuin organisaatiot pystyvät hahmottamaan tai hallitsemaan niihin liittyviä taloudellisia näkökohtia.

Tutkimukseen osallistui 107 yritystä, ja se osoitti, että vaikka suurin osa tekoälytoiminnoista pyörii perinteisillä hyperskalereilla ja mallintarjoajien API-liittymillä, seuraavat investoinnit kohdistuvat erikoistuneeseen laskentatehoon, jota yritykset käyttävät vähän nykyään. Lähes kaikki suunnittelevat vaihtavansa tai lisäävänsä palveluntarjoajia vuoden sisällä, monet jo seuraavan neljänneksen aikana.

Keskeinen ongelma on laskentatehon tehottomuus: 83 prosentilla yrityksistä GPU:iden käyttöaste on 50 prosenttia tai alle. Lisäksi vain alle puolet (44 prosenttia) pystyy tarkasti seuraamaan tekoälyyn liittyvien laskentaresurssien todellisia kustannuksia. Yritykset ostavat uutta infrastruktuuria nopeammin kuin pystyvät kirjaamaan ylös nykyisten resurssien omistajuuden ja kustannukset.

Päätökset perustuvat integraatioon ja kokonaiskustannuksiin, eivätkä niinkään yksikköhintoihin, mikä on "onneksi" siksi, että useimmat yritykset eivät vielä näe yksikkötalouttaan selkeästi. Vaikka vain noin viidesosa (21 prosenttia) ajaa tekoälyä tuotannossa skaalattuina, investointisuunnitelmat ylittävät kypsyystason. Suunniteltu painopiste seuraavalle vuodelle on erikoistuneet tekoälypilvet (45 prosenttia), joita lähes kukaan tutkituista yrityksistä ei tällä hetkellä käytä.

Vaikka yritykset eivät ole tyytyväisiä nykyisiin infrastruktuuritoimittajiinsa, sillä 64 prosenttia aikoo vaihtaa tai lisätä toimittajaa, päätöksiä ohjaa edelleen integraatio olemassa olevaan järjestelmään (41 prosenttia) ja kokonaiskustannukset (35 prosenttia), ei niinkään rajapintojen hetkellinen hinta.