Yritykset investoivat tekoälyinfrastruktuuriin nopeammin kuin hallitsevat sen kustannuksia

Yritysten tekoälyinfrastruktuurin kulutus kiihtyy merkittävästi nopeammin kuin niiden kyky seurata tai hallita taloudellisia vaikutuksia, selviää VentureBeatin julkaisemasta uudesta tutkimuksesta.

Tutkimuksessa todetaan, että useimmat organisaatiot pyörittävät tekoälyään tällä hetkellä suurten pilvipalveluntarjoajien ja mallien rajapintojen avulla. Suunnitelmana on kuitenkin siirtyä tai lisätä erikoistuneen laskentatehon käyttöä, jota useimmat eivät vielä hyödynnä. Päätökset infrastruktuurin hankinnasta perustuvat integraatioon ja kokonaiskustannuksiin, eivät niinkään yksikköhintoihin, sillä suurin osa yrityksistä ei pysty selkeästi näkemään tekoälynsä yksikkötaloutta. Grafiikkaprosessorien (GPU) käyttöaste on puolet tai alle, ja alle puolet yrityksistä seuraa tarkasti laskentakustannuksiaan.

Tämä meno-investointioperaatio kulkee näkyvyyden edellä, mikä muodostaa "laskentakyvyn kuilun". Vain noin viidesosa (21 %) yrityksistä käyttää tekoälyä tuotannossa laajassa mittakaavassa, mutta investointiaikeet ylittävät kypsyystason. Suunnitelmat tekoälyyn erikoistuneista pilvipalveluista ovat vahvimpia, vaikka ne ovatkin aloja, joita useimmat yritykset eivät vielä käytä.

Mielenkiintoisesti suurin osa (64 %) yrityksistä aikoo vaihtaa tai lisätä infrastruktuuritoimittajaa seuraavan 12 kuukauden aikana, ja 38 % aikoo tehdä sen seuraavan neljänneksen aikana. Tämä on poikkeuksellisen suuri vaihtohalukkuus näin perustavanlaatuisella palvelualueella. Valinnoissa painavat integraatio nykyiseen järjestelmään ja kokonaiskustannukset, ei niinkään yksikköhinta.

Tulevissa päätöksissä rajoittava tekijä saattaa olla siirtyminen GPU-laskennasta muistivälityskyvyn kasvattamiseen skaalautuvan päättelyn aikana. Vain noin viidesosa yrityksistä on tietoisia tästä tai on vielä tarttunut siihen.