Alibaba släpper vikter för stor språkmodell Qwen3.8-2.4T-A95B
Alibaba har gjort vikterna för sin Qwen3.8-2.4T-A95B-språkmodell öppet tillgängliga. Modellen har ett ursprungligt kontextfönster på 262 144 tokens och kan utökas.
Det kinesiska teknikföretaget Alibaba har släppt vikterna för sin AI-modell Qwen3.8-2.4T-A95B öppet via sin ModelScope-community. Detta är första gången som vikterna för en Qwen-Max-modell blir offentligt tillgängliga.
Modellen har totalt 2,4 biljoner parametrar, med 95 miljarder aktiverade parametrar per token. En framstående egenskap är dess stöd för ett ursprungligt kontextfönster på 262 144 tokens, vilket kan utökas till över en miljon tokens. Detta möjliggör förståelse och bearbetning av betydligt längre texter och konversationer.
Qwen3.8 är optimerad för att förbättra prestandan inom programmering, kontorsuppgifter, vetenskaplig forskning och långvariga Agent-uppdrag. Alibabas molnversion, Qwen3.8-Max, bygger på denna öppna modell och inkluderar ytterligare funktioner för produktionsmiljöer.
Initiala utvärderingar visar att modellen är konkurrenskraftig jämfört med andra stora språkmodeller som GPT-4 och Opus. Den uppnådde starka resultat i flera tester som mätte dess förmåga inom programmeringsuppgifter, generell konversation, professionella verktyg och förståelse av långa kontexter. Modellens arkitektur använder Mixture-of-Experts (MoE)-teknik, där varje lager har 512 experter och 10 experter väljs per token.