DeepSeek met à jour son modèle Flash et publie son framework d'inférence
DeepSeek a publié une mise à jour de son modèle V4.1 Flash et rendu public son framework d'inférence DeepInfer, visant à améliorer l'efficacité des tâches et à réduire les coûts opérationnels.
Le 17 octobre, DeepSeek a lancé une mise à jour de son modèle V4.1 Flash, baptisée V4.1-Flash-1017. L'entreprise rapporte des améliorations notables dans les tâches de programmation et les processus automatisés par agents. Selon les résultats publiés par DeepSeek, le score Terminal-Bench 4.0 est passé de 31,2 à 42,3, tandis que le test de codage DeepSWE v1.1 atteint un taux de réussite de 77 % pour un coût d'environ 0,20 dollar par tâche.
Parallèlement à cette mise à jour, DeepSeek a ouvert le code source de DeepInfer, son framework interne de gestion de l'inférence utilisé pour ses services de production. Cet outil est conçu pour optimiser l'utilisation des ressources de calcul, incluant le support des GPU Nvidia SM100 et des NPU Huawei Ascend 950. Il permet des fonctionnalités comme l'inférence distribuée et le décodage spéculatif. Toutefois, la documentation précise que cette version ne constitue pas une pile complète, nécessitant des développements complémentaires pour des fonctions telles que l'équilibrage de charge.
Cette stratégie reflète la volonté de DeepSeek de réduire les barrières financières liées au déploiement de modèles d'IA à grande échelle. Si les données de l'entreprise soulignent une réduction des besoins en mémoire cache et en stockage, l'efficacité réelle de ces outils dépendra de leur intégration technique au sein des environnements de production des utilisateurs. L'entreprise continue ainsi de combiner optimisation logicielle et accès à des composants d'infrastructure pour accroître sa compétitivité.