Företagens GPU-användning på hälften eller mindre – Undersökning
En ny undersökning visar att 86 procent av företagens GPU:er körs med högst hälften av sin kapacitet. Undersökningen belyser också implementering och hantering av AI-agenter inom företag.
En undersökning från VentureBeat Research genomförd i juni visar att en betydande del av företagens mest kraftfulla hårdvara, såsom GPU:er, förblir underutnyttjad. Studien involverade 573 tekniska ledare på företag med över hundra anställda.
Dyr hårdvara utnyttjas ej
Resultatet är anmärkningsvärt: 86 procent av företag som använder egna GPU:er rapporterar en användningsgrad på 50 procent eller mindre. Denna data kommer direkt från företagen som nyligen gjort betydande investeringar i AI, och utmanar den fortsatta debatten på Wall Street om huruvida den underliggande AI-infrastrukturen är överprissatt.
Bristande kontroll och kostnader
En majoritet av företagen (54 procent) har upplevt säkerhetsincidenter eller nära-missar relaterade till implementering av AI-agenter, vilka har kunnat förhindras innan skada skedde. Dessutom följer endast 27 procent av företagen sina AI-kostnader reaktivt, där de lär sig kostnaderna först när fakturan kommer, utan budgetering eller tak per agent.
Företagen planerar nu aktivt att stärka kontrollen över sina AI-agenter. Cirka sex av tio företag planerar att byta eller lägga till leverantörer inom fem kontrollager de kommande 12 månaderna. Dessa lager inkluderar agentidentitet, utvärdering av resultat, kostnadsmätning, kontextlager och orkestreringsplan.
Agenternas verkliga kapacitet
Undersökningen visade också att de flesta implementerade AI-agenterna endast utför enkla, enstaka kommandon. 71 procent av företagen uppgav att högst en fjärdedel av deras agenter kan slutföra flerstegsuppgifter självständigt. Endast 10 procent har agenter som utgör majoriteten av deras AI-lösningar.