Microsoft harkitsee kiinalaisen Kimi K3 -mallin käyttöä Copilotissa

Microsoft on raportoidusti sisäisessä testausvaiheessa kiinalaisen Moonlit Arcadata (月之暗面) -yhtiön Kimi K3 -suurta tekoälymallia. Yhtiö arvioi parhaillaan mahdollisuutta siirtää osa Copilot-tekoälyavustajan pyynnöistä käyttämään Kimi K3:a OpenAI:n ja Anthropicin malleja edullisemman hinnoittelun vuoksi.

Sisäisten arvioiden mukaan Kimi K3:een siirtyminen voisi vähentää Microsoftin pilvi-infrastruktuurin kustannuksia jopa 600 miljoonaa dollaria vuodessa. Yhtiö ei kuitenkaan ole vielä tehnyt lopullista päätöstä mallin käyttöönotosta. Microsoft pyrkii monipuolistamaan tekoälymallien käyttöä vähentääkseen riippuvuuttaan yhdestä toimittajasta ja optimoidakseen tekoälypalveluidensa käyttökustannuksia.

Kimi K3 -mallin kerrotaan pärjäävän kilpailukykyisesti koodin generoinnissa ja loogisessa päättelyssä, ja sen päättelykustannukset ovat alhaisemmat kuin OpenAI:n GPT-4- ja Anthropicin Claude-mallien. Tekoälyn päättelyn korkeat kustannukset ovat merkittävä tekijä tekoälypalveluiden kaupallisessa käyttöönotossa. Siksi edullisempien mallien käyttäminen vähemmän monimutkaisissa tehtävissä, kuten koodin täydennyksissä, voi olla keino hillitä operatiivisia menoja.

Microsoftin odotetaan saavan alustavan teknisen arvioinnin valmiiksi kahden kuukauden kuluessa. Täydellisen käyttöönoton esteenä voivat kuitenkin olla tekniset ja sääntelyyn liittyvät haasteet, mukaan lukien datan suvereniteettivaatimukset ja vientirajoitukset, sillä malli on kiinalaiselta yhtiöltä. Lisäksi nykyisen Copilot-arkkitehtuurin syvä sidonnaisuus OpenAI:n rajapintoihin voi vaatia merkittäviä järjestelmämuutoksia.

Johtajien mukaan kustannussäästöjen hyötyjä on punnittava käyttäjäkokemuksen laatua vastaan. Mikäli mallin laadun heikkeneminen johtaa käyttäjien menetykseen, säästetyt kustannukset eivät välttämättä kata tappioita. Microsoftin toimitusjohtaja Satya Nadella on korostanut kustannustehokkuutta ja toimittajien monipuolistamista, mikä tukee tätä suuntausta.