Weka startet neue Speicherplattform zur Steigerung der KI-Effizienz

Das KI-Speicherunternehmen Weka hat seine NeuralMesh 6-Software zusammen mit seiner ersten selbst entwickelten Hardwarelinie, Wekapod 3, veröffentlicht. Die neue Plattform wurde entwickelt, um die Leistung und Effizienz von KI-Modellen zu verbessern, indem die Abhängigkeit von teurem Grafikprozessorspeicher (GPU) erheblich reduziert wird.

Die Plattform nutzt Wekas Augmented Memory Grid-Ansatz, der Flash-Speicher aggregiert, um kostengünstig wie GPU-Speicher zu fungieren. Dies soll Leistungsprobleme in KI-Modellen beheben, die durch lange Kontextfenster und Multi-Turn-Konversationen verursacht werden und zu redundanten Berechnungen führen und wertvolle GPU-Ressourcen verbrauchen.

NeuralMesh 6 führt mehrere neue Funktionen ein, darunter kombinierbare und virtuelle Multi-Tenancy, die Hardware-Isolation bieten und auf Tausende von Mandanten pro Cluster skalierbar sind. Sie bietet auch vereinheitlichten Datei- und Objektspeicher ohne separate Datenkopien oder Übersetzungsschichten, was die Datenverarbeitung beschleunigt, insbesondere in GPU-Cloud-Umgebungen.

Metadata-first-Replikation und die AlloyFlash-Technologie verbessern die Leistung und Kosteneffizienz weiter. AlloyFlash mischt verschiedene Arten von NAND-Flash-Speichern, wodurch kostengünstiger QLC-Speicher für Massendaten verwendet werden kann, während die Geschwindigkeit für latenzempfindliche Aufgaben mit schnellerem TLC-Speicher erhalten bleibt.

Wekas Mitbegründer und CEO Liran Zvibel betonte, dass die neue Plattform eine um hunderte Male effizientere Cache-Nutzung ermöglicht, wodurch wiederholte Berechnungen überflüssig werden und erhebliche GPU-Ressourcen eingespart werden. Dies kann die Bereitstellung neuer KI-Workloads beschleunigen und die Auslastung bestehender GPU-Investitionen verbessern.