Xiaomi diffuse en direct l'entraînement de nouveaux grands modèles de langage

Xiaomi diffuse en direct le processus d'entraînement par apprentissage par renforcement de ses grands modèles de langage non encore publiés, MiMo-V2.6-Pro et MiMo-V2.6-Flash. L'entreprise a lancé un tableau de bord public qui affiche des métriques directement issues des journaux d'entraînement, incluant les courbes de récompense, le nombre de déploiements, le calendrier des étapes et les coûts de calcul en cours.

Le tableau de bord suit également les performances de codage des modèles en cours d'entraînement et d'autres résultats d'évaluation au fur et à mesure que l'entraînement progresse. Xiaomi n'a encore publié aucun des modèles pour un usage public ni annoncé les spécifications finales, les prix ou une API.

Luo Fuli, responsable de l'équipe MiMo, a déclaré que l'équipe avait passé près de six mois à étudier comment l'apprentissage par renforcement pouvait être mis à l'échelle après la sortie de MiMo-V2.5. Le tableau de bord indique que la série MiMo-V2.6 « arrivera bientôt ».

Cette démarche vers une plus grande transparence dans le processus d'entraînement des modèles est inhabituelle dans l'industrie technologique et offre aux observateurs un aperçu de la trajectoire de développement des grands modèles de langage.