Kiinan tekoälymallit haastavat ulkomaiset kilpailijat kustannustehokkuudella
Kiinalaiset tekoälymallit alkavat kilpailla kustannusten perusteella, jopa kymmenesosalla vastaavien ulkomaisten mallien koulutuskustannuksista ja API-hinnoista, arvioi UBS.
Kiinan tekoälymallien markkinat ovat alkaneet haastaa ulkomaisia kilpailijoita kustannustehokkuudellaan. UBS:n arvioiden mukaan kiinalaisten tekoälymallien koulutuskustannukset voivat olla jopa kymmenesosa verrattuna vastaaviin ulkomaisiin järjestelmiin. Lisäksi niiden rajapintojen (API) hinnat ovat usein 10–20 prosenttia ulkomaisten vaihtoehtojen hinnoista.
Jos yrityskäyttäjät alkavat arvioida tekoälyä enemmän toteumien (token) tuoton perusteella raa'an suorituskyvyn sijaan, tämä kustannusero voi muodostua merkittäväksi kaupalliseksi eduksi. Kiinalaiset mallien tarjoajat pystyvät ylläpitämään arvioituja API-bruttomarginaaleja 20–40 prosenttia huolimatta alhaisemmista hinnoista.
Yrityskysyntä on alkamassa jakautua kalliimpiin malleihin monimutkaisiin tehtäviin ja edullisempiin malleihin toistuviin, suuren volyymin työnkulkuihin. Tämä voi tehdä hinta-suorituskyvystä tärkeämmän tekijän globaalissa tekoälymallien hankinnassa.
Kustannusero ei johdu yhdestä hintaleikkauksesta, vaan se on rakennettu koko tekoälypinon läpi. Kiinalaiset kehittäjät käyttävät pienempiä parametrikokoja, "mixture-of-experts" -arkkitehtuureja ja muita algoritmisia tekniikoita vähentääkseen koulutus- ja päättelyvaatimuksia. Esimerkiksi joissakin MoE-malleissa käytetään vain pientä osaa parametreista kutakin tehtävää kohden.
Palvelun tehokkuus, kuten korkeampi GPU-käyttöaste (>70 %), sekä matalammat sähkö- ja datakeskuskustannukset edistävät kustannustehokkuutta entisestään. Myös kotimaiset tekoälysirut voivat ajan myötä pienentää päättelykustannuksia. Kiinan avoimen lähdekoodin malliekosysteemi edistää näiden parannusten leviämistä laboratorioiden välillä.