Ant Group gör AI-modellen Ling-3.1-flash tillgänglig som öppen källkod

Ant Group har släppt vikterna för sin AI-modell Ling-3.1-flash, vilket gör den tillgänglig för utvecklare att implementera i sin egen infrastruktur. Modellen har totalt cirka 560 miljarder parametrar, varav ungefär 25 miljarder aktiveras per token, och stöder ett kontextfönster på upp till en miljon tokens.

Släppet följer modellens tidigare introduktion och inkluderar stöd för implementering via inferensramverk som SGLang och vLLM. Modellen riktar sig mot kodning, agentarbetsflöden och professionella uppgifter som kräver bearbetning av långa dokument och interaktion med externa verktyg.

Teamet har också utvecklat ett driftsättningsförfarande med blandad precision som minskar modellens minneskrav från cirka 534 GB till 292 GB. I den rapporterade Hopper GPU-konfigurationen minskade detta driftsättningskravet från åtta till fyra GPU:er.