H3C déplace le focus de l'infrastructure IA des GPU vers l'efficacité des tokens

TechNode

H3C déplace le focus de l'infrastructure IA

TechNode – Pékin – Si le mot-clé pour l'infrastructure IA ces dernières années était simplement plus de puissance de calcul, le déploiement à grande échelle de l'IA Agentique pousse l'industrie à une question plus pratique : Quelle est l'efficacité avec laquelle toute cette puissance de calcul peut réellement être utilisée ?

Lors de la conférence Apsara 2026, H3C a formulé la question en termes d'efficacité des tokens. Alors que les agents IA font constamment appel à des modèles fondamentaux, les services à l'échelle de billions de tokens émergent comme une nouvelle exigence d'infrastructure. L'ajout de simples GPU ne permet pas nécessairement des gains de performance proportionnels. Le calcul inactif, la congestion du réseau, un apport de données insuffisant et les défis opérationnels et de défaillance des clusters à grande échelle peuvent tous éroder la valeur d'un calcul supplémentaire.

La gamme de produits de H3C lors de l'événement, bien qu'elle couvre un large éventail de technologies, suit une logique claire : du calcul au réseau et au stockage, et du logiciel aux opérations, l'infrastructure IA évolue de l'empilement matériel vers l'optimisation au niveau du système. Zhu Shiyin, directeur général du département de recherche en technologie avancée de H3C, a décrit les clusters IA comme des systèmes hautement intégrés nécessitant une coordination étroite entre matériel et logiciel. À mesure que la taille des clusters passe de centaines à des milliers, voire des dizaines de milliers de GPU, les GPU eux-mêmes ne deviennent qu'une partie de l'équation. La communication inter-puces, le transfert de données, la planification des tâches, l'alimentation électrique et le refroidissement peuvent tous affecter directement l'utilisation globale du calcul. Le SuperPod UniPoD S80000 Series de H3C, présenté lors de l'événement, reflète cette approche.

La concurrence dans les clusters IA évolue de la question du nombre de GPU qu'un système possède à celle du nombre de tokens utiles que chaque GPU peut réellement produire. Zhu a également souligné les interconnexions à haute vitesse, une partie de plus en plus importante de l'infrastructure IA. La raison est simple : à mesure que les performances des GPU s'améliorent, la quantité de données échangées entre les GPU augmente également. Si le réseau ne suit pas, les GPU sont obligés d'attendre. C'est pourquoi H3C a présenté trois scénarios d'interconnexion lors de l'événement : Scale-Up, Scale-Out et Scale-Across. L'entreprise a également présenté des solutions de stockage haute performance et des optimisations logicielles visant à réduire les temps d'attente des GPU et à améliorer l'efficacité globale.

À l'avenir, l'infrastructure IA ne concernera plus seulement la puissance de calcul, mais un système complet de traitement des données où chaque moment d'attente se traduit par un coût. Selon H3C, l'optimisation logicielle est le prochain champ de bataille clé, garantissant que tous les composants matériels fonctionnent ensemble de manière transparente pour atteindre une production maximale de tokens.