Gigabyte adopte la mise en pool de mémoire CXL pour les serveurs IA

Gigabyte Technology intègre la solution de mise en pool de mémoire Compute Express Link (CXL) pour améliorer l'efficacité et la scalabilité de ses serveurs d'intelligence artificielle. Cette démarche vise à pallier les limitations des architectures informatiques actuelles face aux exigences de mémoire des modèles d'IA de plus en plus complexes, tels que Llama 3.1 de Meta comptant 405 milliards de paramètres.

L'approche traditionnelle, où les processeurs et accélérateurs s'appuient sur leur mémoire locale isolée, entraîne souvent des inefficacités dans le transfert de données et des goulets d'étranglement. La technologie CXL introduit un pool de mémoire partagé, permettant aux différents composants de calcul d'accéder dynamiquement aux ressources mémoire selon leurs besoins. Cette mutualisation réduit la latence et améliore l'utilisation globale des ressources, un aspect crucial pour le traitement de volumes massifs de données.

Gigabyte développe des serveurs exploitant cette technologie pour offrir une ressource mémoire unifiée. Cette approche peut augmenter l'utilisation de la mémoire jusqu'à 50 % et fournir une capacité de débit élevée, essentielle pour l'entraînement, l'inférence et les simulations à grande échelle des applications IA. CXL 3.0, par exemple, offre une bande passante bidirectionnelle de 128 Go/s.

En optimisant les mouvements de données et l'allocation des ressources, la mise en pool de mémoire CXL accélère non seulement les charges de travail IA, mais contribue également à des opérations de centres de données plus durables grâce à une meilleure efficacité énergétique. L'adoption du CXL par Gigabyte marque une transition vers une infrastructure informatique plus flexible et performante pour le paysage évolutif de l'IA.