Utilisation des GPU d'entreprise à moitié capacité ou moins, selon une étude

Une part importante du matériel haute performance appartenant aux entreprises, tel que les GPU, est sous-utilisée, selon une enquête de juin menée par VentureBeat Research. L'étude a interrogé 573 responsables techniques d'entreprises comptant 100 employés ou plus.

Du matériel coûteux reste inactif

Les conclusions indiquent que 86 % des entreprises exploitant leurs propres GPU rapportent des taux d'utilisation de 50 % ou moins. Ces données proviennent directement des entreprises qui investissent dans l'IA et ajoutent une dimension au débat en cours à Wall Street concernant l'évaluation de l'infrastructure IA.

Manque de contrôle et coûts croissants

De nombreuses entreprises sont confrontées à des défis dans la mise en œuvre des agents IA. 54 % des entreprises ont connu des incidents de sécurité ou des quasi-accidents liés aux agents IA, qui ont été détectés avant de causer des dommages. De plus, seulement 27 % des entreprises suivent leurs dépenses IA de manière réactive, n'apprenant les coûts qu'après réception des factures, sans budgets par agent.

Les entreprises prévoient d'améliorer la supervision de leurs agents IA. Environ six entreprises sur dix ont l'intention de changer ou d'ajouter des fournisseurs pour cinq couches de contrôle au cours des 12 prochains mois. Ces couches comprennent l'identité de l'agent, l'évaluation des résultats, la télémétrie des coûts, le contexte et l'orchestration.

Capacités réelles des agents

L'enquête a également révélé que la plupart des agents IA déployés exécutent des tâches simples, à prompt unique. 71 % des entreprises ont déclaré qu'un quart de leurs agents, au maximum, peuvent accomplir des tâches en plusieurs étapes de manière autonome. Seulement 10 % ont signalé que de véritables agents constituent la majorité de leurs déploiements d'IA.