H3C skiftar fokus inom AI-infrastruktur från GPU:er till tokeneffektivitet

TechNode

H3C skiftar fokus inom AI-infrastruktur

TechNode – Peking – Om nyckelordet för AI-infrastruktur de senaste åren var helt enkelt mer beräkningskraft, tvingar den storskaliga utbyggnaden av Agentic AI branschen att konfrontera en mer praktisk fråga: Hur effektivt kan all denna beräkningskraft faktiskt användas?

Vid 2026 års Apsara Conference formulerade H3C frågan i termer av token. Allt eftersom AI-agenter kontinuerligt anropar grundmodeller, framträder tjänster i triljon-token-skala som ett nytt infrastrukturkrav. Att enbart lägga till fler GPU:er ger inte nödvändigtvis proportionella prestandavinster. Inaktiv beräkningskraft, nätverksstockning, otillräcklig datatillförsel och utmaningar med drift och fel i storskaliga kluster kan alla urholka värdet av ytterligare beräkningskraft.

Det är därför H3C:s produktlinje vid evenemanget, även om den spänner över ett brett spektrum av teknologier, följer en relativt tydlig logik: från beräkning till nätverk och lagring, och från mjukvara till drift, rör sig AI-infrastruktur bortom hårdvarustapling mot systemoptimering. Zhu Shiyin, general manager för H3C:s Advanced Technology Research Department, beskrev AI-kluster som högintegrerade system som kräver nära samordning mellan hårdvara och mjukvara. När klusterstorlekarna växer från hundratals till tusentals eller till och med tiotusentals GPU:er, blir själva GPU:erna bara en del av ekvationen. Kommunikation mellan chip, dataöverföring, schemaläggning av uppgifter, strömförsörjning och kylning kan alla direkt påverka den totala beräkningsanvändningen. H3C:s UniPoD S80000 Series SuperPod, som visades upp vid evenemanget, speglar detta tillvägagångssätt.

Konkurrensen inom AI-kluster skiftar från hur många GPU:er ett system har till hur många användbara token varje GPU faktiskt kan producera. Dessutom belyste Zhu höghastighetsförbindelser, en allt viktigare del av AI-infrastruktur. Anledningen är enkel: när GPU-prestandan förbättras, växer även mängden data som utbyts mellan GPU:er. Om nätverket inte kan hänga med tvingas GPU:erna vänta. Därför visade H3C upp tre scenarier för förbindelser vid evenemanget: Scale-Up, Scale-Out och Scale-Across. Företaget presenterade också högpresterande lagringslösningar och mjukvaruoptimeringar som syftar till att minska GPU:ernas väntetid och förbättra den övergripande effektiviteten.

Framöver kommer AI-infrastruktur inte längre att handla om beräkningskraft, utan om ett omfattande databehandlingssystem där varje väntan kostar. Enligt H3C är mjukvaruoptimering nästa viktiga slagfält för att säkerställa att alla hårdvarukomponenter fungerar sömlöst tillsammans för att uppnå maximal tokenproduktion.