China Merchants Bank vann tävling för Kubernetes-baserad AI-plattform

China Merchants Bank, en av Kinas ledande kommersiella banker, har vunnit Cloud Native Computing Foundation (CNCF) tävling för slutanvändarfallstudier. Utmärkelsen erhölls för bankens presentation av en molnbaserad plattform som framgångsrikt har förenat AI-träning och inferensarbetsbelastningar på Kubernetes-orkestreringsplattformen.

Den implementerade lösningen har visat sig vara effektiv för att förbättra resursutnyttjandet. Banken rapporterar att den genomsnittliga utnyttjandegraden för acceleratorberäkningar har ökat från 35 procent till över 60 procent. Kostnaderna för inferens per en miljon tokens har dessutom minskat med mer än 60 procent.

Införandet av denna plattform inom en Kubernetes-miljö ger ökad skalbarhet och flexibilitet i hanteringen av AI-applikationer. Detta är särskilt relevant inom finanssektorn, där databehandling och utveckling av AI-baserade tjänster sker i snabb takt. Vinsten i CNCF-tävlingen understryker potentialen hos molnbaserade teknologier för att uppnå betydande affärsfördelar.