Nvidia lanserar nytt högbandbreddsmne för AI-acceleratorer
Nvidia presenterar NVHBM, en anpassad minneslösning som lovar betydligt förbättrad prestanda och energieffektivitet för AI-acceleratorer. Amazon Annapurna Labs blir första partner.
Nvidia har lanserat ett nytt, anpassat högbandbreddsmne (NVHBM) avsett för AI-acceleratorer. Den nya minneslösningen syftar till att erbjuda en betydande förbättring i prestanda och energieffektivitet jämfört med tidigare HBM-teknologier.
Enligt företaget erbjuder NVHBM upp till 30 % högre bandbredd och 15 % lägre energiförbrukning jämfört med standard HBM4e-minne. Detta förbättrar avsevärt prestandan för AI-arbetsbelastningar, såsom AI-inferens. Dessutom frigör NVHBM:s nya design utrymme på själva kiselchipet, vilket möjliggör upp till 30 % mer beräkningsresurser.
NVHBM är designat för att integreras i Nvidias NVLink Fusion-ekosystem, som kopplar samman flera processorer till ett enhetligt beräkningssystem. Den nya minneslösningen designas i samarbete med minnestillverkare, vilket påskyndar utvecklingen av anpassade AI-chip.
Amazon Annapurna Labs har bekräftats som den första partnern för NVHBM. Företaget planerar att använda tekniken i sina framtida AI-chip för AWS-infrastruktur, inklusive nästa generations Trainium 4-chip.