Yritysten GPU-käyttö puolessa tai alle - Tutkimus
Uusi tutkimus paljastaa, että 86 prosenttia yritysten GPU-koneista toimii korkeintaan puolella kapasiteetistaan. Tutkimus tarkastelee myös tekoälyagenttien käyttöönottoa ja hallintaa yrityksissä.
VentureBeat Researchin kesäkuussa tekemä kysely paljastaa, että merkittävä osa yritysten suorituskykyisimmästä laitteistosta, kuten GPU-laitteista, jää hyödyntämättä. Tutkimukseen osallistui 573 teknistä johtajaa yli sadan työntekijän yrityksistä.
Kalliit laitteistot joutilaana
Löydös on merkittävä: 86 prosenttia yrityksistä, jotka käyttävät omia GPU:itaan, raportoi laitteistojen käyttöasteen olevan 50 prosenttia tai vähemmän. Tämä tieto tulee suoraan yrityksiltä, jotka ovat juuri investoineet merkittävästi tekoälyyn, ja se haastaa jatkuvan keskustelun Wall Streetillä siitä, onko tekoälyn perustana oleva infrastruktuuri ylihinnoiteltua.
Hallinnan puute ja kustannukset
Suurin osa yrityksistä (54 prosenttia) on kohdannut tekoälyagenttien käyttöönottoon liittyviä tietoturvapoikkeamia tai vaaratilanteita, jotka on saatu estettyä ennen vahinkoa. Lisäksi 27 prosenttia yrityksistä seuraa tekoälykulutusta vain reaktiivisesti, oppien kustannukset vasta laskun saapuessa ilman budjetointia tai ylärajaa per agentti.
Yritykset suunnittelevatkin aktiivisesti vahvistavansa tekoälyagenttiensa hallintaa. Noin kuusi kymmenestä yrityksestä aikoo vaihtaa tai lisätä toimittajia viidellä eri hallintakerroksella seuraavan 12 kuukauden aikana. Näihin kerroksiin kuuluvat agenttien identiteetti, tulosten arviointi, kustannusten seuranta, kontekstikerros ja orkestrointitaso.
Agenttien todellinen kapasiteetti
Kyselyssä selvisi myös, että suurin osa käyttöönotetuista tekoälyagenteista suorittaa vain yksinkertaisia, yksittäisiä komentoja. 71 prosenttia yrityksistä ilmoitti, että korkeintaan neljännes heidän käyttämistään agenteista pystyy suorittamaan monivaiheisia tehtäviä itsenäisesti. Vain 10 prosentilla agentit muodostavat suurimman osan heidän tekoälyratkaisuistaan.