Vikterna, och villkoret
Mistral Large 4 — som Mistral kallar Le Chonk — går nu att ladda ned. Hugging Face publicerade släppet den 29 oktober med officiella kontrollpunkter i FP8 och NVFP4, GGUF-konverteringar från Unsloth och llama.cpp-teamet, samt stöd från dag noll i Transformers, vLLM och llama.cpp.
Licensen är ingen standardiserad öppen källkodslicens. Hugging Face beskriver Mistral Ecosystem Open-Weight License som en MIT-härledd licens som inför begränsningar för erbjudanden av modell som tjänst — alltså: vikterna får hämtas och byggas vidare på, men att sälja modellen vidare som en driftad tjänst är där villkoren börjar bita.
Det finns också en liten avvikelse värd att notera. Inledningen anger modellen till omkring en biljon parametrar totalt med 49 miljarder aktiva, medan den officiella kontrollpunkten publiceras som Mistral-Large-4-1T-A52B. Båda siffrorna kommer från samma sida.
Vad den körs på
De mer användbara siffrorna är genomströmningen, eftersom de säger vem som faktiskt kan köra det här. Hugging Face rapporterar att 2-bitarskvantiseringarna ryms på en enda Apple Silicon Ultra-maskin med 512 GB enhetligt minne, och att Q2_K på en M3 Ultra gav ungefär 90 tokens i sekunden i förifyllning och 15 i generering. Allt tyngre kräver distribuerad inferens.
På fyra RTX 6000 Pro-kort rapporterar inlägget NVFP4 med 32 000 i kontext och en förifyllning mellan 130 och 590 tokens i sekunden med omkring 10 i generering, och IQ2_XXS med 800 000 i kontext som klarar 500 tokens i sekunden i förifyllning och 30 i generering vid korta längder — och faller till 129 respektive 3 vid långa.
På åtta H200 via Hugging Faces egna Inference Endpoints visade en enskild förfrågan en tid till första token på omkring 0,6 sekunder vid en prompt på 1 000 tokens och omkring 65 tokens i sekunden i generering, stigande till 120–138 när modellens inbyggda DSpark-utkast accepterades. Under belastning över 1 000 ShareGPT-samtal låg den samlade genereringen på omkring 480 tokens i sekunden.
Arkitekturen
Textavkodaren har 72 lager, en dold dimension på 6 144 och 64 uppmärksamhetshuvuden. Uppmärksamheten kombinerar Multi-head Latent Attention med en gles indexerare av DeepSeek-typ som väljer upp till 2 048 nyckelpositioner per fråga, och lagren växlar tre med roterande positionsinbäddning mot ett utan. Det första avkodarlagret är ett tätt framåtmatningsnät; de övriga 71 är expertblandningsblock vars router väljer fyra av 128 experter per token, med en delad expert som alltid körs vid sidan. Synen kommer från en Pixtral-kodare på 1,6 miljarder parametrar.
Resonemangsnivån kan ställas till låg, medel eller hög. Den går inte att stänga av; standardvärdet är hög.
Poängen, och vem som rapporterar dem
På kodning anger Hugging Face 61,7% på DeepSWE v1.1, 59,4% på SWE-Atlas-QnA och 28,3% på Terminal-Bench 4, med ett sammanvägt kodagentindex på 49,8%. På kunskapsarbete anges 59,9% på AutomationBench och 1 393 Elo på AA-Briefcase.
Säkerhetssiffrorna är de Mistral drivit hårdast: 82% på testet för att återskapa och lappa sårbarheter inom Artificial Analysis Cyber Index, i inlägget beskrivet som den högsta rapporterade poängen på det testet, och 93% av 40 Cybench-utmaningar. På Lakeras B3-riktmärke för promptinjektion anges 93,3% motståndskraft mot angrepp.
En oberoende placering är värd att hålla fast vid mot resten: den 29 oktober listade Artificial Analysis Mistral Large 4 som den femte bästa modellen med öppna vikter på sitt intelligensindex. Femte plats, med vikterna offentliga, är ett annat erbjudande än förstaplats bakom ett API.
