En 4GB-modell byggd på någon annans
Nvidia har släppt Nemotron 3.5 Bolt E4B 4GB, en liten öppen modell riktad mot röstassistenter, spelkaraktärer och robotar som kör på själva enheten i stället för i ett datacenter. Modellens egen sida säger att den “bygger på Gemma 4 E4B med Nemotron-eftertränning” — basen är Googles Gemma4-E4B-it, och det Nvidia bidragit med är eftertränningen ovanpå.
Det är värt att säga rakt ut, eftersom släppet läses som en Nvidia-modell. Det är Nvidias eftertränningsrecept applicerat på en Google-bas, vilket är så ekosystemet för öppna vikter ser ut inifrån: företagen som säljer hårdvaran skickar i allt högre grad modeller härledda från dem som inte gör det.
Kontextfönstret är 64k tokens. Modellen stöder 35 språk, på en bas som Nvidia säger förtränades på “+140 språk”.
Vad de 4GB i namnet betyder
Inte systemminne. Siffran avser de kvantiserade vikterna: Nvidias mätningar körs i BF16, medan GGUF-versionen är Q4_K_M, och sidan anger att modellen ryms på “så lite som ~4GB i sina avsedda arbetslaster”.
Nvidias egen tabell är mer specifik än rubriksiffran. På ett RTX 5070 med 12GB rapporteras 3,5GB vid kort kontext och 4,3GB vid 32k kontext med 2 000 utdatatokens. På en Jetson Orin Nano med 8GB tar samma två konfigurationer 4,2GB och 4,9GB. Genomströmningen vid batchstorlek ett är 133,4 tokens i sekunden på RTX 5070 och 15,5 tokens i sekunden på Jetson Orin Nano — en niofaldig skillnad mellan de två enheter Nvidia riktar modellen mot.
Tabellen säger inte vad rubriken säger
Nvidia publicerar 21 rader med mätningar som jämför Bolt E4B med sin egen Nemotron 3 Nano 4B, med Alibabas Qwen 3.5 4B och med den Gemma 4 E4B som modellen bygger på. Det är Nvidias egna siffror, inte en oberoende utvärdering.
Bolt leder de flesta, ibland med stor marginal. På RoleBench får den 67,0 mot Nano 4B:s 12,0. På IHEval 84,8 mot 51,3. På When2Call-MT 63,4 mot 27,7. Mot den Gemma 4-bas den utgår från vinner den över 20 poäng på IFBench och nästan 18 på IHEval.
Men samma tabell placerar Qwen 3.5 4B före på sex rader, och två av avstånden är inte små. På Tau2-Bench, ett test av verktygsanvändning över flera turer, får Qwen 75,1 och Bolt 55,1 — 20 poäng efter. På LongBench v2 vid 48k får Qwen 59,9 mot Bolts 50,5.
Raden som är värd att stanna vid är RULER vid 64k, testet av återkallning i långt kontext kört på exakt den kontextlängd Nvidia annonserar. Bolt får 87,0. Nvidias egen Nemotron 3 Nano 4B får 91,5, och Qwen 3.5 4B får 95,1. Bolt slår bara den Gemma 4-bas den eftertränats från, på 86,5, och hamnar trea av de fyra modellerna i sin egen jämförelse vid sin egen annonserade kontextlängd.
Nvidias sammanfattande påståenden handlar om medelvärden snarare än enskilda rader: omkring 40% högre genomsnittlig kvalitet än Nemotron 3 Nano 4B, omkring 10% högre än övriga utvärderade modeller, och “upp till ~80% färre tokens” i jämförelser där resonemang är påslaget. Båda kan vara sanna samtidigt som raden för långt kontext pekar åt andra hållet.
Var man får tag på den
Vikterna finns på Hugging Face som eftertränad GGUF-modell och som BF16-checkpoint, med DFlash-utkastmodeller för GGUF- och NVFP4-byggena. Sidan listar även Ollama, LM Studio, Unsloth, Canonical, Jetson AI Lab och Nvidias SDK för inferens i spel som distributionsvägar. Sidan namnger ingen licens.
Vad som är värt att följa
Det användbara testet är om någon reproducerar tabellen. Bolts starkaste påståenden ligger i mätningar av konversation, persona och instruktionsföljning, som är de mest känsliga för val av testsele och prompt, medan det sämsta resultatet ligger i RULER, den mest mekaniska av dem. Om oberoende körningar bekräftar både personavinsterna och gapet i långt kontext har Nvidia släppt en modell som pratar bra och minns dåligt — en rimlig avvägning för en spelkaraktär och en dålig för en agent.
