H3C siirtää tekoälyinfrastruktuurin painopistettä GPU:ista token-tehokkuuteen
Teknologiayritys H3C korostaa, että tekoälyagenttien lisääntyessä laskentatehon tehokas hyödyntäminen on tärkeämpää kuin pelkkien GPU-kiihdytinten määrän kasvattaminen.
TechNode
H3C siirtää tekoälyinfrastruktuurin painopistettä
TechNode – Peking – Jos tekoälyinfrastruktuurin avainsana viime vuosina on ollut pelkkä laskentatehon lisääminen, Agentic AI:n laajamittainen käyttöönotto pakottaa alan kohtaamaan käytännöllisemmän kysymyksen: Kuinka tehokkaasti kaikki tämä laskentateho voidaan todella hyödyntää?
Apsara Conference 2026 -tapahtumassa H3C muotoili kysymyksen token-tehokkuuden kautta. Koska tekoälyagentit käyttävät jatkuvasti suuria kielimalleja, triljoonien tokenien palveluista on tulossa uusi infrastruktuurivaatimus. Pelkkä GPU-kiihdytinten määrän lisääminen ei välttämättä johda suhteelliseen suorituskyvyn kasvuun. Käyttämätön laskentateho, verkon ruuhkautuminen, riittämätön datan syöttö sekä suurten klusterien operatiiviset ja vikaantumishaasteet voivat syödä lisälaskentatehon arvoa.
H3C:n tuotevalikoima tapahtumassa, vaikka se kattoikin laajan kirjon teknologioita, noudatti selkeää logiikkaa: laskentatehosta verkkoon ja tallennukseen, ohjelmistosta operatiivisiin toimintoihin, tekoälyinfrastruktuuri on siirtymässä pelkästä laitteiston pinoamisesta järjestelmätason optimointiin.
Zhu Shiyin, H3C:n Advanced Technology Research Departmentin johtaja, kuvasi tekoälyklustereita korkean integraation järjestelmiksi, jotka vaativat tiivistä laitteisto-ohjelmistokoordinaatiota. Klusterikokojen kasvaessa sadoista tuhansiin tai jopa kymmeniin tuhansiin GPU-kiihdyttimiin, itse GPU:t muodostavat vain yhden osan kokonaisuudesta. Sirujen välinen kommunikaatio, datansiirto, tehtävien ajoitus, virransyöttö ja jäähdytys voivat kaikki vaikuttaa suoraan laskentatehon kokonaishyödyntämiseen. H3C:n UniPoD S80000 Series SuperPod, joka esiteltiin tapahtumassa, heijastaa tätä lähestymistapaa. Se tukee 32–1024 GPU:n kokoonpanoja ja voi skaalautua edelleen 16 384 GPU:hun tukien heterogeenisiä laskentaresursseja, kuten CPU:ita, GPU:ita, NPU:ita ja DPU:ita sekä yleisimpiä kehyksiä.
Kilpailu tekoälyklusterien saralla on siirtymässä siitä, kuinka monta GPU-kiihdytintä järjestelmässä on, siihen, kuinka monta hyödyllistä tokenia jokainen GPU pystyy todellisuudessa tuottamaan. Lisäksi Zhu korosti nopeita yhteenliitäntöjä, jotka ovat yhä tärkeämpi osa tekoälyinfrastruktuuria. Kun GPU-suorituskyky paranee, GPU:iden välinen datanvaihto kasvaa. Jos verkko ei pysy perässä, GPU:t joutuvat odottamaan. Siksi H3C esitteli tapahtumassa kolme yhteenliitäntäskenaariota: Scale-Up, Scale-Out ja Scale-Across. Yritys esitteli myös korkean suorituskyvyn tallennusratkaisuja ja ohjelmisto-optimointia, jotka pyrkivät vähentämään GPU:iden odotusaikaa ja parantamaan kokonaisvaltaista tehokkuutta.
Tulevaisuudessa tekoälyinfrastruktuuri ei enää keskity pelkkään laskentatehoon, vaan kokonaisvaltaiseen datankäsittelyjärjestelmään, jossa jokainen viive maksaa. H3C:n mukaan ohjelmistojen optimointi on seuraava tärkeä taistelukenttä, joka varmistaa, että kaikki laitteistokomponentit toimivat saumattomasti yhdessä maksimaalisen token-tuotannon saavuttamiseksi.