Gigabyte introducerar CXL-minnespoolning för AI-fabriker

Gigabyte Technology presenterar nya lösningar för att öka prestandan i AI-fabriker genom att integrera Compute Express Link (CXL) minnespoolningsteknik. Denna innovation syftar till att övervinna befintliga hårdvarubegränsningar relaterade till minneskapacitet, vilka för närvarande hämmar träning och drift av allt större AI-modeller, såsom Metas Llama 3.1 med 405 miljarder parametrar.

Traditionellt har processorer och acceleratorer förlitat sig på sitt lokala minne, vilket har lett till ineffektivitet i dataöverföring och flaskhalsar, särskilt vid varierande minnesbehov. CXL möjliggör tillgång till delade minnesresurser, där olika beräkningsenheter dynamiskt kan dela minne baserat på aktuella krav. Detta minskar latensen och förbättrar resursutnyttjandet, vilket är avgörande för hantering av stora datamängder.

Gigabyte lanserar servrar baserade på denna teknik som erbjuder en enhetlig minnespool. Denna lösning kan höja minnesutnyttjandet med upp till 50 % och ger hög genomströmning (CXL 3.0 erbjuder 128 GB/s dubbelriktad bandbredd), vilket är nödvändigt för den hastighet som krävs av AI-applikationer och storskaliga simuleringar.

Införandet av denna teknik, i takt med den digitala omvandlingens fortsatta utveckling, bidrar också till hållbar tillväxt genom att optimera energieffektiviteten genom att minska onödig dataöverföring. Gigabyte strävar efter att, med hjälp av CXL-minnespoolning, erbjuda effektivare och mer skalbara plattformar för framtidens AI-arbetsbelastningar.