Moonshot AI släpper Kimi K3-modell

Kinesiska AI-företaget Moonshot AI har officiellt släppt sin Kimi K3-modell som öppen källkod. Företaget har publicerat modellens vikter, en teknisk rapport samt den infrastrukturteknik som använts för att träna Kimi K3.

Kimi K3 har 2,8 biljoner parametrar och bygger på Kimi Delta Attention (KDA) -mekanismen, med stöd för visuell förståelse. Ett framträdande drag är dess stöd för ett kontextfönster på en miljon tokens, vilket möjliggör hantering av mycket stora datamängder.

Moonshot AI anger att Kimi K3 är den första öppet tillgängliga modellen som når en parameterstorlek på 2,8 biljoner. Under de senaste 12 månaderna har Kimi-modeller konsekvent legat i framkant när det gäller storlek bland öppna modeller.

Tekniskt sett använder Kimi K3 en Mixture of Experts (MoE)-arkitektur i kombination med Stable LatentMoE-ramverket för effektiv aktivering av experter. Företaget har även optimerat träningsmetoder och datarecept. Dessa strukturella förbättringar gör Kimi K3 cirka 2,5 gånger mer effektiv än K2 när det gäller skalbarhet.

Modellen kan förstå och bearbeta långa kodbaser och komplexa ingenjörsuppgifter över tid med minimal mänsklig tillsyn. Den hanterar även uppgifter som kombinerar mjukvaruutveckling och visuell inferens, och kan använda skärmdumpar för att optimera spelutveckling och CAD-tillämpningar. Trots att Kimi K3 inte når samma nivå som de ledande slutna modellerna som Claude Fable 5 och GPT-5.6 Sol, erbjuder den banbrytande kapacitet och överträffar andra öppna modeller i benchmarktester.