Gigabyte setzt auf CXL-Speicherpool zur Optimierung von KI-Fabriken

Gigabyte Technology integriert die Compute Express Link (CXL) Speicherpool-Technologie in seine KI-Serverinfrastruktur. Ziel ist es, die Effizienz und Skalierbarkeit von KI-Servern zu verbessern und die durch immer komplexere KI-Modelle wie Metas Llama 3.1 (405 Milliarden Parameter) entstehenden Speicherengpässe zu überwinden.

Herkömmliche Architekturen, bei denen Prozessoren und Beschleuniger auf isolierte lokale Speicher zugreifen, führen oft zu ineffizienten Datenübertragungen und Leistungseinbußen. CXL ermöglicht den Zugriff auf einen gemeinsamen Speicherpool, sodass verschiedene Rechenkomponenten dynamisch auf Speicherressourcen zugreifen und diese teilen können. Dies reduziert Latenzzeiten und verbessert die Gesamtauslastung der Ressourcen, was für die Verarbeitung großer Datenmengen unerlässlich ist.

Gigabyte entwickelt Server, die diese Technologie nutzen, um eine einheitliche Speicherressource bereitzustellen. Dieser Ansatz kann die Speichernutzung um bis zu 50 % steigern und bietet eine hohe Durchsatzleistung, die für datenintensive KI-Trainings, Inferenz und Simulationen unerlässlich ist. CXL 3.0 bietet beispielsweise eine bidirektionale Bandbreite von 128 GB/s.

Durch die Optimierung der Datenbewegung und Ressourcenzuweisung beschleunigt das CXL-Speicherpooling nicht nur KI-Workloads, sondern trägt durch verbesserte Energieeffizienz auch zu einem nachhaltigeren Rechenzentrieb bei. Gigabytes Einführung von CXL signalisiert einen Wandel hin zu einer flexibleren und leistungsfähigeren Computing-Infrastruktur für die sich entwickelnde KI-Landschaft.