Les entreprises privilégient la vitesse de calcul IA au détriment de la visibilité des coûts

Une récente enquête révèle que deux tiers des entreprises exécutent des charges de travail IA en production, près de 30 % les exploitant à grande échelle. Parallèlement, la capacité des entreprises à suivre avec précision les coûts associés à leur infrastructure de calcul IA n'a pas suivi le rythme du développement.

Traditionnellement, le coût était un facteur primordial dans les décisions d'achat. Cependant, pour l'IA, cette tendance s'inverse. La vitesse et la disponibilité sont devenues plus critiques que le coût total de possession (TCO), et la fiabilité prime désormais sur le prix comme indicateur de succès. Ce changement de priorités découle probablement de la pression pour déployer efficacement les solutions IA en production, mais il met en évidence un défi : moins de la moitié des entreprises peuvent suivre rigoureusement leurs dépenses en calcul IA.

La majorité des accélérateurs GPU déployés fonctionnent à 50 % de leur capacité ou moins, et les investissements futurs ciblent des clouds spécialisés qui connaissent actuellement une adoption limitée. Les plateformes leaders incluent OpenAI, Google Gemini et Microsoft Azure, ce dernier servant de plateforme principale pour 26 % des répondants.

Les investissements planifiés montrent un fort intérêt pour les environnements cloud spécialisés dans l'IA, malgré une faible utilisation actuelle. Les accélérateurs non-Nvidia gagnent également du terrain. De nombreuses entreprises prévoient d'ajouter ou de changer de fournisseur au cours de la prochaine année, bien que les acteurs majeurs actuels dominent souvent ces considérations.

La recherche, qui a interrogé 170 entreprises, s'est concentrée sur l'infrastructure IA, la puissance de calcul et les facteurs économiques. Les résultats indiquent une transition vers le déploiement IA à l'échelle de la production, mais soulignent la nécessité d'une gestion et d'une visibilité des coûts améliorées.