IT Home julkaisi MiniCPM-V 4.7 -kielimallin mobiililaitteille

IT Home tiedotti 13. lokakuuta uuden MiniCPM-V 4.7 -kielimallin julkaisusta. Malli on suunniteltu toimimaan suoraan mobiililaitteissa ja tukee useita eri piirisarja-alustoja, mukaan lukien iOS, Android ja HarmonyOS. Uusi malli on saatavilla kahdessa eri koossa: 35B-A3B ja 1B.

Erityisesti 35B-A3B-versio on merkittävä, sillä se on IT Homen mukaan ensimmäinen avoimen lähdekoodin MoE (Mixture of Experts) -malli, joka toimii saumattomasti ja ilman häviöitä paikallisesti laitteissa. Se saavuttaa mallin mukaan yli 13 tokenin sekuntinopeuden dekoodauksessa käyttäen vain 3 gigatavua muistia, mikä mahdollistaa monimutkaisten tehtävien suorittamisen suoraan esimerkiksi älypuhelimissa.

Malli hyödyntää uutta LES (Look-ahead Expert Scheduling) -teknologiaa suorituskyvyn parantamiseksi. Mallin kerrotaan pärjäävän kilpailukykyisesti muihin vastaaviin malleihin verrattuna, kuten Qwen-sarjaan, tarjoten korkeampia pisteytyksiä ja nopeampaa päättelyä tietyissä suorituskykytesteissä.

IT Home julkaisi myös SRFT (Self-Replay Fine-Tuning) -hienosäätöratkaisun, jonka tavoitteena on auttaa kehittäjiä parantamaan mallin ominaisuuksia kustannustehokkaasti ja vähentämään tiedon unohtamista hienosäädön aikana. Tämä helpottaa mallin jatkokehitystä ja soveltamista eri käyttötarkoituksiin.