Weka lanserar ny lagringsplattform för att förbättra AI

AI-lagringsföretaget Weka har lanserat sin nya mjukvara NeuralMesh 6, tillsammans med sin första egenutvecklade hårdvarulinje, Wekapod 3. Syftet är att förbättra prestanda och effektivitet hos AI-modeller genom att avsevärt minska behovet av dyrt grafikkortsprocessorminne (GPU).

Den nya plattformen använder Wekas Augmented Memory Grid-metod, som aggregerar flashlagring för att fungera som GPU-minne till en bråkdel av kostnaden. Denna lösning adresserar prestandaproblem i AI-modeller orsakade av långa kontextfönster och konversationer med flera turer, vilka leder till onödig omberäkning och förbrukar GPU-resurser.

NeuralMesh 6 inkluderar flera nya funktioner, såsom kombinerbar och virtuell multi-tenant-support, som möjliggör isolering på hårdvarunivå och skalar till tusentals klienter per kluster. Plattformen erbjuder även enhetlig fil- och objektlagring utan separata datakopior eller översättningslager, vilket snabbar upp datahanteringen, särskilt i GPU-molntjänster.

Metadata-first-replikering och AlloyFlash-teknologi förbättrar ytterligare prestanda och kostnadseffektivitet. AlloyFlash blandar olika typer av NAND flashminnen, vilket möjliggör användning av kostnadseffektivt QLC-minne för stora datamängder utan prestandaförlust i kritiska uppgifter som drar nytta av snabbare TLC-minne.

Wekas medgrundare och VD Liran Zvibel betonar att den nya plattformen möjliggör upp till hundratals gånger effektivare cache-användning, vilket eliminerar behovet av att omberäkna samma data och sparar betydande GPU-resurser. Detta kan snabba upp driftsättningen av nya AI-arbetslaster och förbättra utnyttjandet av befintliga GPU-investeringar.