En modell på 2,8 billioner parametere som kan lastes ned
Moonshot AI har publisert vektene til Kimi K3.1 Pro, selskapets største modell, på Hugging Face. Lageret rommer modellen i 96 safetensors-deler og er ikke sperret: det finnes ingen søknad og ingen godkjenning mellom en nedlastingskommando og filen. Moonshot hadde sagt at vektene ville følge etter lanseringen av modellen sent i oktober, og nå er de offentlige.
Selskapet kaller den sin “mest kapable modell i 3T-klassen så langt”. Det er en mixture-of-experts-konstruksjon med 2,8 billioner parametere totalt, hvorav 104 milliarder aktiveres for hvert enkelt token, og et kontekstvindu på 1 048 576 tokener.
Hva som ligger i filen
Arkitekturen har 93 lag, ett av dem tett, med 896 eksperter der 16 velges per token ved siden av to delte eksperter. Oppmerksomheten er fordelt på 69 lag Kimi Delta Attention og 24 lag Gated DeepSeek Sparse Attention — en endring fra Kimi K3, som brukte Gated MLA-lag med full oppmerksomhet, og som ifølge Moonshot gjør modellering av lange kontekster mer effektiv. Den skjulte oppmerksomhetsdimensjonen er 7 168 over 96 hoder, og ordforrådet omfatter 160 000 tokener.
Modellen tar tekst og bilde; en MoonViT-V2-bildekoder på 401 millioner parametere står ved siden av språkdelen. Vektene leveres kvantisert til MXFP4 med MXFP8-aktiveringer, trent slik i stedet for komprimert etterpå, og Moonshot viser dem som vil kjøre modellen til vLLM og SGLang. K3.1 Pro ble ettertrent fra Kimi K3 med det selskapet beskriver som storskala felles forsterkningslæring over hundrevis av domener.
Poengene, og hvor de kommer fra
Moonshot publiserer en sammenligningstabell mot Claude Fable 5.1, GPT‑6 Astra, Claude Opus 5.5, DeepSeek-V4.1-Flash-1017 og GLM-5.3. Fotnotene teller: Moonshot kjørte K3.1 Pro selv, i de fleste rader gjennom Claude Code, mens konkurrentenes tall er de høyeste verdiene de leverandørene har oppgitt i sine egne blogginnlegg, systemkort og topplister. Det er en tabell over leverandørpåstander, satt sammen av en av leverandørene.
På det grunnlaget får K3.1 Pro 65,7 på Terminal-Bench 4.0 mot 66,4 for Claude Opus 5.5 — nummer to med 0,7 poeng, og foran GPT‑6 Astra på 58,2 og Claude Fable 5.1 på 57,9. Den leder på SWE Marathon v1.1 med 51,7 mot Opus 5.5 sine 46,3, og på BrowseComp med 92,1 mot Astras 91,5.
Den leder ikke overalt. DeepSeek-V4.1-Flash-1017 tar DeepSWE v1.1 med 77,0 mot 75,5, og GPT‑6 Astra tar GPQA-Diamond på 96,1 mot 94,2. På Humanity’s Last Exam er avstanden større: K3.1 Pro får 51,1 der Opus 5.5 når 59,8 og Claude Fable 5.1 når 57,6, noe som setter den åpne modellen sist blant frontsystemene i den raden. På OSWorld V2.1 ligger den på 79,6, bak Opus 5.5 på 81,8 og Fable 5.1 på 80,7.
Lisensen er haken
Vektene kan lastes ned, men åpne vekter er ikke det samme som åpen kildekode. K3.1 Pro slippes under Kimi K3.1 Pro License, et dokument selskapet har skrevet for denne modellen i stedet for Apache 2.0 eller MIT, og Hugging Face fører lisensfeltet rett og slett som “other”. Den som vil bygge videre på modellen, må lese den teksten i stedet for å lene seg på vilkår som allerede er kjent.
Hva man bør følge
Det nyttige tallet blir det første uavhengige. Hvert tall i Moonshots tabell kommer fra en leverandør, Moonshots egne medregnet, og Terminal-Bench fører en offentlig toppliste som selskapet allerede viser til for rivalene sine. En oppføring for K3.1 Pro der, kjørt av noen andre, ville avgjøre om de 0,7 poengene til Claude Opus 5.5 overlever et oppsett Moonshot ikke har valgt.
