NVIDIA ja d-Matrix yhdistävät voimansa AI-infrastruktuurissa
NVIDIA tekee yhteistyötä ASIC-yritys d-Matrixin kanssa luodakseen hybridin AI-laskentainfrastruktuurin. Uusi järjestelmä yhdistää NVIDIA:n GPU:t ja d-Matrixin ASIC:t parantaakseen tekoälymallien suorituskykyä.
Tekoälypiirien jättiläinen NVIDIA on liittoutunut ASIC-startup-yritys d-Matrixin kanssa kehittääkseen uudenlaista hybridilaskentainfrastruktuuria tekoälymallien käyttöön. Yhteistyön tavoitteena on yhdistää molempien yritysten laitteistot luodakseen tehokkaamman ratkaisun.
d-Matrixin mukaan heidän Neocloud Parasail -järjestelmänsä, joka yhdistää NVIDIA:n Hopper- ja Blackwell-GPU:t d-Matrixin Corsair ASIC -piireihin, on saavuttanut kymmenkertaisen tokenien (sanojen) generointinopeuden. Tämä suorituskyvyn parannus viittaa merkittävään edistykseen tekoälyn päättelytehtävissä.
Parasail hyödyntää NVIDIA:n GPU:ita tekoälyn päättelytehtävien laskennallisesti vaativissa esikäsittelyvaiheissa. Samaan aikaan d-Matrixin Corsair-piirit, joissa on suuri määrä SRAM-muistia ja in-memory computing -arkkitehtuuri (D-IMC), soveltuvat erinomaisesti päättelytehtävien loppuvaiheen latenssiherkkiin dekoodausoperaatioihin.
d-Matrixin perustaja ja toimitusjohtaja Sid Sheth totesi yhteistyön vahvistavan heidän uskomustaan, että tekoälyn päättelyn tulevaisuus on heterogeeninen. Hän korosti, että GPU:t ja erikoistuneet kiihdyttimet eivät kilpaile, vaan täydentävät toisiaan, ja Parasailin lähestymistapa optimoi työnkulun jokaisen vaiheen.