Xiaomi päivittää MiMo-V3:n arkkitehtuuria HySparse2-teknologialla
Xiaomi päivittää MiMo-V3-mallinsa arkkitehtuuria HySparse2-teknologian avulla. Uusi arkkitehtuuri vähentää merkittävästi pitkien kontekstien käsittelykustannuksia ja parantaa agenttityökuormien hakutoimintoja.
Xiaomi on ilmoittanut merkittävästä päivityksestä tekoälymallinsa MiMo-V3 arkkitehtuuriin. Päivityksen ytimessä on HySparse2-teknologia, jonka tavoitteena on alentaa huomattavasti pitkien tekstien ja datamäärien käsittelyyn liittyviä kustannuksia sekä tehostaa datanhakua agenttipohjaisissa sovelluksissa.
Fuli Luo, Xiaomi MiMo -projektin johtaja, vahvisti uudistuksen. HySparse2 on suunniteltu erityisesti vähentämään pitkien konteksti-ikkunoiden päättelykustannuksia. Yhtiön mukaan teknologia voi vähentää esitäyttölaskentaa jopa 5,02-kertaiseksi ja KV-välimuistia 4,5-kertaiseksi, kun käsiteltävän datan pituus ylittää miljoonan tokenin rajan.
Mikäli nämä tulokset pitävät paikkansa, uudistuksella voi olla laajoja vaikutuksia tekoälysovellusten kehitykseen, mahdollistaen tehokkaamman ja edullisemman pitkien dokumenttien, keskusteluhistorioiden tai muun pitkän datan analysoinnin.
Xiaomi raportoi myös parannuksia mallin suorituskykyyn useilla eri mittareilla, mukaan lukien korkeammat MRCRv2- ja RULER-v2-pisteet. Samalla AgentPPL- ja LongPPL-tulokset laskivat, mikä viittaa mallin parantuneeseen kykyyn ymmärtää ja tuottaa johdonmukaista tekstiä pitkissäkin syötteissä.