Ant Group avaa Ling-3.1-flash AI -mallin lähdekoodin

Ant Group on julkaissut tekoälymallinsa Ling-3.1-flash painot, antaen kehittäjille mahdollisuuden ottaa malli käyttöön omissa infrastruktuureissaan. Mallissa on yhteensä noin 560 miljardia parametria, josta noin 25 miljardia aktivoituu tunnusta kohden. Se tukee huomattavan pitkää, jopa miljoonan tokenin konteksti-ikkunaa.

Julkaisu seuraa mallin aiempaa esittelyä, ja siihen sisältyy tuki käyttöönotolle yleisillä päättelykehyksillä, kuten SGLang ja vLLM. Malli on suunnattu erityisesti koodaukseen, agenttityönkulkuihin ja ammatillisiin tehtäviin, jotka vaativat pitkien asiakirjojen käsittelyä ja vuorovaikutusta ulkoisten työkalujen kanssa.

Ant Groupin tiimi on kehittänyt myös sekatarkkuuden käyttöönoton lähestymistavan. Tämä vähentää mallin painojen muistivaatimuksia noin 534 gigatavusta 292 gigatavuun. Raportoidussa Hopper GPU -kokoonpanossa tämä pienensi käyttöönoton vaatimuksen kahdeksasta GPU:sta neljään.