Microsoft évalue l'intégration du modèle chinois Kimi K3 pour Copilot

Microsoft testerait en interne le modèle d'IA Kimi K3 développé par la société chinoise Moonlit Arcadata (月之暗面) et évaluerait la faisabilité de migrer une partie des requêtes de son assistant IA Copilot depuis les modèles actuels d'OpenAI et d'Anthropic vers Kimi K3.

Les estimations internes de Microsoft suggèrent qu'un tel transfert pourrait réduire les coûts annuels de son infrastructure cloud jusqu'à 600 millions de dollars. L'entreprise n'a cependant pas encore pris de décision finale concernant l'adoption de ce modèle. Cette démarche s'inscrit dans la stratégie de Microsoft visant à diversifier ses fournisseurs de modèles d'IA et à optimiser les coûts opérationnels de ses services.

Le modèle Kimi K3 serait performant dans des tâches telles que la génération de code et le raisonnement logique, tout en offrant des coûts d'inférence inférieurs à ceux de certains modèles GPT-4 d'OpenAI et Claude d'Anthropic. Les coûts élevés de l'inférence IA sont un facteur déterminant dans la viabilité commerciale des grands modèles de langage, rendant l'utilisation de modèles plus économiques pour certaines tâches une option attrayante pour réduire les dépenses.

Microsoft devrait achever son évaluation technique préliminaire dans les deux prochains mois. Cependant, des défis techniques et réglementaires importants subsistent, notamment en matière de souveraineté des données et de contrôles à l'exportation liés à l'utilisation d'un modèle chinois. De plus, l'architecture actuelle de Copilot est étroitement liée aux API d'OpenAI, ce qui pourrait nécessiter des ajustements système considérables en cas de changement.

Les analystes soulignent que les économies réalisées doivent être mises en balance avec l'expérience utilisateur. Une dégradation de la qualité du modèle pourrait entraîner une perte d'utilisateurs, annulant potentiellement les gains financiers. Le PDG de Microsoft, Satya Nadella, a récemment réaffirmé l'importance de l'efficacité des coûts et de la diversité des fournisseurs, ce qui soutient cette orientation stratégique.