IT Home : Le GPU Moore Threads adapté au modèle IA LongCat-2.0 de Meituan
IT Home (Chine) rapporte que le GPU MTT S5000 de Moore Threads et la pile logicielle MUSA ont été adaptés au grand modèle IA LongCat-2.0 de Meituan, nouvellement open-sourcé, permettant une inférence efficace.
Le média technologique chinois IT Home a rapporté le 6 juillet que Moore Threads a finalisé l'adaptation du grand modèle d'intelligence artificielle LongCat-2.0 de Meituan, récemment rendu open source, à son matériel.
Le processus d'adaptation couvre toute la chaîne, du chargement du modèle et du démarrage du moteur d'inférence à l'optimisation des opérations de calcul critiques et à la vérification du déploiement. Le modèle LongCat-2.0 peut désormais fonctionner efficacement sur les cartes accélératrices IA de Moore Threads, les MTT S5000, conçues pour l'entraînement et l'inférence IA.
LongCat-2.0 est un modèle de nouvelle génération basé sur l'architecture MoE (Mixture of Experts) développé par Meituan, avec plus d'un billion de paramètres. Il est spécifiquement conçu pour les tâches de codage agentique et supporte nativement des fenêtres de contexte allant jusqu'à un million de tokens, utilisant des mécanismes tels que l'attention éparse pour améliorer l'utilisation des ressources.
Moore Threads a indiqué que les cartes MTT S5000, avec leur accélération matérielle FP8 native et leur grande capacité mémoire, combinées à la pile logicielle MUSA, fournissent une base stable pour le traitement de longs contextes et l'amélioration des temps de réponse. L'entreprise a souligné qu'un processus d'adaptation standardisé accélère le déploiement de modèles de pointe sur les plateformes de calcul nationales.