En model på 2,8 billioner parametre, som kan hentes
Moonshot AI har offentliggjort vægtene til Kimi K3.1 Pro, selskabets største model, på Hugging Face. Arkivet rummer modellen i 96 safetensors-dele og er ikke spærret: der er hverken ansøgning eller godkendelse mellem en hentekommando og filen. Moonshot havde sagt, at vægtene ville følge efter modellens lancering sidst i oktober, og nu er de offentlige.
Selskabet kalder den sin “mest kapable model i 3T-klassen til dato”. Det er en mixture-of-experts-konstruktion med 2,8 billioner parametre i alt, hvoraf 104 milliarder aktiveres for hvert enkelt token, og et kontekstvindue på 1.048.576 tokens.
Hvad der ligger i filen
Arkitekturen har 93 lag, et af dem tæt, med 896 eksperter, hvoraf 16 vælges per token ved siden af to delte eksperter. Opmærksomheden er fordelt på 69 lag Kimi Delta Attention og 24 lag Gated DeepSeek Sparse Attention — en ændring fra Kimi K3, der brugte Gated MLA-lag med fuld opmærksomhed, og som ifølge Moonshot gør behandlingen af lange kontekster mere effektiv. Den skjulte opmærksomhedsdimension er 7.168 over 96 hoveder, og ordforrådet omfatter 160.000 tokens.
Modellen tager tekst og billede; en MoonViT-V2-billedkoder på 401 millioner parametre står ved siden af sprogdelen. Vægtene leveres kvantiseret til MXFP4 med MXFP8-aktiveringer, trænet sådan i stedet for komprimeret bagefter, og Moonshot henviser dem, der vil køre modellen, til vLLM og SGLang. K3.1 Pro blev eftertrænet fra Kimi K3 med det, selskabet beskriver som storskala fælles forstærkningslæring på tværs af hundredvis af domæner.
Pointene, og hvor de kommer fra
Moonshot offentliggør en sammenligningstabel mod Claude Fable 5.1, GPT‑6 Astra, Claude Opus 5.5, DeepSeek-V4.1-Flash-1017 og GLM-5.3. Fodnoterne tæller: Moonshot kørte selv K3.1 Pro, i de fleste rækker gennem Claude Code, mens konkurrenternes tal er de højeste værdier, de leverandører har oplyst i deres egne indlæg, systemkort og topliste-poster. Det er en tabel over leverandørpåstande, samlet af en af leverandørerne.
På det grundlag får K3.1 Pro 65,7 på Terminal-Bench 4.0 mod 66,4 for Claude Opus 5.5 — nummer to med 0,7 point, og foran GPT‑6 Astra på 58,2 og Claude Fable 5.1 på 57,9. Den fører på SWE Marathon v1.1 med 51,7 mod Opus 5.5’s 46,3, og på BrowseComp med 92,1 mod Astras 91,5.
Den fører ikke overalt. DeepSeek-V4.1-Flash-1017 tager DeepSWE v1.1 med 77,0 mod 75,5, og GPT‑6 Astra tager GPQA-Diamond på 96,1 mod 94,2. På Humanity’s Last Exam er afstanden større: K3.1 Pro får 51,1, hvor Opus 5.5 når 59,8 og Claude Fable 5.1 når 57,6, hvilket sætter den åbne model sidst blandt frontsystemerne i den række. På OSWorld V2.1 ligger den på 79,6, bag Opus 5.5 på 81,8 og Fable 5.1 på 80,7.
Licensen er haken
Vægtene kan hentes, men åbne vægte er ikke det samme som open source. K3.1 Pro udgives under Kimi K3.1 Pro License, et dokument selskabet har skrevet til denne model i stedet for Apache 2.0 eller MIT, og Hugging Face fører licensfeltet ganske enkelt som “other”. Den, der vil bygge videre på modellen, skal læse den tekst i stedet for at læne sig op ad vilkår, der allerede er kendte.
Hvad man skal følge
Det nyttige tal bliver det første uafhængige. Hvert tal i Moonshots tabel kommer fra en leverandør, Moonshots egne medregnet, og Terminal-Bench fører en offentlig topliste, som selskabet allerede henviser til for sine rivaler. En post for K3.1 Pro der, kørt af en anden, ville afgøre, om de 0,7 point til Claude Opus 5.5 overlever et opsæt, Moonshot ikke har valgt.
