Parasail kombinerar NVIDIA AI-infrastruktur med d-Matrix acceleratorer
Parasail, en leverantör av inferenstjänster för AI-startups, och d-Matrix inleder ett samarbete för att accelerera token-generering med upp till tio gånger snabbare hastighet.
Parasail, som tillhandahåller inferenstjänster för AI-startups, har idag meddelat ett samarbete med d-Matrix. Syftet är att kombinera NVIDIA:s AI-infrastruktur, inklusive Hopper- och Blackwell GPU:er, med d-Matrix:s Corsair-acceleratorer. Målet är att uppnå en tiofaldig ökning av hastigheten för generering av tokens, vilket avsevärt skulle förbättra prestandan för AI-modeller.
Fokus ligger på att öka hastigheten och kostnadseffektiviteten inom AI-inferensprocessen. Tillverkare har arbetat med att optimera dessa processer, som är resurskrävande för utveckling och användning av stora språkmodeller. Genom att integrera kraftfulla grafikkort med specialiserade acceleratorer strävar Parasail efter att erbjuda snabbare och billigare tjänster till sina kunder.
Parasail:s beslut att använda d-Matrix:s teknologi understryker den växande betydelsen av specialiserade hårdvarulösningar för att maximera AI-prestanda. Nyliga framsteg inom AI har krävt allt mer kraftfulla beräkningsresurser, och detta partnerskap svarar mot det ökande behovet.
Samarbetet förväntas ge betydande fördelar, särskilt för utvecklare och användare av AI-applikationer som kräver snabb och effektiv inferens. Parterna förväntar sig att den nya lösningen kommer att göra AI-tjänster mer tillgängliga och ekonomiskt hållbara.