China Merchants Bank remporte un concours CNCF pour l'IA unifiée sur Kubernetes

La China Merchants Bank, une banque commerciale de premier plan en Chine, a remporté le concours d'études de cas d'utilisateurs finaux de la Cloud Native Computing Foundation (CNCF). La banque a été reconnue pour sa plateforme cloud native qui unifie avec succès les charges de travail d'entraînement et d'inférence de l'intelligence artificielle sur Kubernetes.

La plateforme développée a permis des améliorations significatives en matière d'efficacité des ressources de calcul. La China Merchants Bank a signalé une augmentation de l'utilisation moyenne des calculs d'accélérateurs, passant de 35 % à plus de 60 %. De plus, le coût par 1 million de tokens pour l'inférence a été réduit de plus de 60 %.

L'adoption de cette plateforme au sein d'un environnement Kubernetes offre une évolutivité et une flexibilité accrues dans la gestion des applications d'IA. Ceci est particulièrement pertinent dans le secteur financier, caractérisé par un traitement rapide des données et une demande croissante pour des services basés sur l'IA. La victoire dans ce concours CNCF souligne les avantages pratiques de l'adoption de technologies cloud natives pour des fonctions commerciales critiques.