Gigabyte prend en charge Nemotron 3.5 Lightning pour le calcul d'agents IA

Gigabyte Technology a annoncé que sa plateforme matérielle AI TOP ATOM prend entièrement en charge le nouveau modèle Nemotron 3.5 Lightning de NVIDIA et la bibliothèque de routage open source NeMo Switchyard. Cette combinaison offre aux entreprises et aux développeurs une solution informatique sur site haute performance et axée sur la confidentialité pour les applications d'IA d'agents autonomes nécessitant une faible latence.

Le modèle Nemotron 3.5 Lightning est conçu pour accélérer l'exécution des tâches au sein des systèmes d'agents IA. Basé sur une architecture hybride Mixture-of-Experts (MoE), le modèle offre un débit jusqu'à quatre fois supérieur à celui des modèles de classe similaire, optimisant ainsi l'efficacité de calcul et minimisant les temps de réponse pour les tâches répétitives et spécialisées.

De plus, le modèle offre une précision améliorée pour le codage, l'utilisation d'outils et le suivi des instructions. Sa longueur de contexte étendue et sa disponibilité en tant que modèle ouvert permettent un déploiement et une personnalisation locaux, garantissant que les données sensibles restent au sein du réseau de l'entreprise. Gigabyte propose sa plate-forme matérielle AI TOP ATOM, optimisée pour ces exigences, adaptée à une gamme d'applications, des postes de travail personnels aux serveurs de centres de données.

La technologie peut être appliquée dans divers secteurs, notamment les assistants personnels, le développement logiciel, la cybersécurité, ainsi que l'automatisation dans les services financiers et de santé. Le matériel de Gigabyte, y compris la solution de bureau AI TOP ATOM alimentée par le NVIDIA Grace Blackwell Superchip, est conçu pour libérer tout le potentiel de Nemotron 3.5 Lightning dans les environnements de calcul locaux et en périphérie.