Nvidia julkistaa uuden korkean kaistanleveyden muistin AI-kiihdyttimille
Nvidia esittelee NVHBM-nimisen muistiratkaisun, joka lupaa merkittävästi parannettua suorituskykyä ja energiatehokkuutta tekoälykiihdyttimiin. Amazonin Annapurna Labs on ensimmäinen kumppani.
Nvidia on julkistanut uuden, räätälöidyn korkean kaistanleveyden muistin (NVHBM) AI-kiihdyttimiä varten. Uusi muistiratkaisu pyrkii tarjoamaan huomattavan parannuksen suorituskykyyn ja energiatehokkuuteen verrattuna aiempiin HBM-teknologioihin.
Yhtiön mukaan NVHBM tarjoaa jopa 30 % suuremman kaistanleveyden ja 15 % alhaisemman virrankulutuksen verrattuna standardiin HBM4e -muistiin. Tämä parantaa merkittävästi tekoälytyökuormien, kuten AI-päättelyn, suorituskykyä. Lisäksi NVHBM:n uudenlainen suunnittelu vapauttaa tilaa varsinaisesta piisirusta, mahdollistaen jopa 30 % enemmän laskentaresursseja.
NVHBM on suunniteltu integroitavaksi Nvidian NVLink Fusion -ekosysteemiin, joka yhdistää useita prosessoreita yhdeksi laskentajärjestelmäksi. Uusi muistiratkaisu suunnitellaan yhdessä muistivalmistajien kanssa, mikä nopeuttaa räätälöityjen AI-piirien kehitystä.
Amazonin Annapurna Labs on vahvistettu ensimmäiseksi NVHBM:n kumppaniksi. Yritys aikoo hyödyntää teknologiaa tulevissa AWS-infrastruktuurin tekoälypiireissään, mukaan lukien seuraavan sukupolven Trainium 4 -piiri.