Les modèles d'IA chinois défient les concurrents par leur efficacité coût

Le marché des modèles d'IA en Chine commence à concurrencer autant sur le coût que sur la capacité. Les estimations d'UBS suggèrent que les modèles d'IA chinois pourraient coûter environ un dixième de ce que coûtent les systèmes étrangers comparables pour leur entraînement, les prix des API se situant souvent entre 10 % et 20 % de ceux des alternatives étrangères.

Si les entreprises évaluent de plus en plus l'IA par le rendement de chaque token plutôt que par la performance brute du modèle, cette différence de coût pourrait devenir un avantage commercial significatif. Les fournisseurs de modèles chinois parviennent à maintenir des marges brutes d'API estimées entre 20 % et 40 % malgré des prix plus bas.

La demande des entreprises commence à se scinder entre les modèles coûteux pour les tâches complexes et les modèles moins chers pour les flux de travail répétitifs à haut volume. Ce changement pourrait faire de la performance par rapport au prix un facteur plus critique dans l'approvisionnement mondial en modèles d'entreprise.

L'avantage de coût est intégré dans toute la pile technologique de l'IA, et non le résultat de réductions de prix isolées. Les développeurs chinois utilisent des tailles de paramètres plus petites, des architectures "mixture-of-experts" (MoE) et d'autres techniques pour réduire les exigences d'entraînement et d'inférence. Certains modèles MoE n'activent qu'un faible pourcentage de paramètres par tâche.

L'efficacité du service, y compris une utilisation plus élevée des GPU (supérieure à 70 %) et des coûts d'électricité et de centres de données plus bas, contribue davantage à l'efficacité des coûts. Les puces d'IA nationales pourraient également réduire les coûts d'inférence avec le temps. L'écosystème chinois de modèles open-source facilite la diffusion de ces améliorations techniques.