Un modelo de 4GB construido sobre el de otro
Nvidia ha publicado Nemotron 3.5 Bolt E4B 4GB, un modelo abierto pequeño dirigido a asistentes de voz, personajes de videojuegos y robots que funcionan en el propio dispositivo y no en un centro de datos. La página del modelo dice que “se construye sobre Gemma 4 E4B con posentrenamiento Nemotron”: la base es Gemma4-E4B-it de Google, y lo que aporta Nvidia es el posentrenamiento sobre ella.
Conviene decirlo con claridad porque el lanzamiento se está leyendo como un modelo de Nvidia. Es la receta de posentrenamiento de Nvidia aplicada a una base de Google, que es el aspecto que tiene por dentro el ecosistema de pesos abiertos: las empresas que venden el hardware distribuyen cada vez más modelos derivados de las que no lo venden.
La ventana de contexto es de 64k tokens. El modelo admite 35 idiomas, sobre una base que Nvidia dice haber preentrenado en “+140 idiomas”.
Qué significan los 4GB del nombre
No es memoria del sistema. La cifra se refiere a los pesos cuantizados: las pruebas de Nvidia se ejecutan en BF16, mientras que la versión GGUF es Q4_K_M, y la página indica que el modelo cabe en “tan poco como ~4GB en sus cargas de trabajo objetivo”.
La tabla de Nvidia es más precisa que el titular. En una RTX 5070 de 12GB informa de 3,5GB con contexto corto y 4,3GB con contexto de 32k y 2.000 tokens de salida. En una Jetson Orin Nano de 8GB, esas dos configuraciones ocupan 4,2GB y 4,9GB. El rendimiento con lote de uno es de 133,4 tokens por segundo en la RTX 5070 y de 15,5 tokens por segundo en la Jetson Orin Nano: una diferencia de nueve veces entre los dos dispositivos a los que Nvidia dirige el modelo.
La tabla no dice lo mismo que el titular
Nvidia publica 21 filas de pruebas que comparan Bolt E4B con su propio Nemotron 3 Nano 4B, con Qwen 3.5 4B de Alibaba y con el Gemma 4 E4B del que parte. Son cifras de Nvidia, no una evaluación independiente.
Bolt encabeza la mayoría, a veces por mucho. En RoleBench obtiene 67,0 frente a los 12,0 de Nano 4B. En IHEval, 84,8 frente a 51,3. En When2Call-MT, 63,4 frente a 27,7. Frente a la base Gemma 4 de la que parte, gana más de 20 puntos en IFBench y casi 18 en IHEval.
Pero la misma tabla sitúa a Qwen 3.5 4B por delante en seis filas, y dos de esas distancias no son pequeñas. En Tau2-Bench, una prueba de uso de herramientas en varios turnos, Qwen obtiene 75,1 y Bolt 55,1: 20 puntos de desventaja. En LongBench v2 a 48k, Qwen logra 59,9 frente a 50,5.
La fila en la que merece la pena detenerse es RULER a 64k, la prueba de recuperación de contexto largo ejecutada exactamente en la longitud de contexto que Nvidia anuncia. Bolt obtiene 87,0. El propio Nemotron 3 Nano 4B de Nvidia obtiene 91,5, y Qwen 3.5 4B obtiene 95,1. Bolt solo supera a la base Gemma 4 de la que fue posentrenado, con 86,5, y queda tercero de los cuatro modelos de su propia comparación en su propia longitud de contexto anunciada.
Las afirmaciones resumidas de Nvidia son sobre promedios y no sobre filas concretas: alrededor de un 40% más de calidad media que Nemotron 3 Nano 4B, en torno a un 10% más que los demás modelos evaluados y “hasta ~80% menos tokens” en comparaciones con razonamiento activado. Ambas cosas pueden ser ciertas mientras la fila de contexto largo va en sentido contrario.
Dónde conseguirlo
Los pesos están en Hugging Face como modelo posentrenado GGUF y como checkpoint BF16, con borradores DFlash para las versiones GGUF y NVFP4. La página también enumera Ollama, LM Studio, Unsloth, Canonical, Jetson AI Lab y el SDK de inferencia en juego de Nvidia como vías de distribución. La página no nombra ninguna licencia.
Qué vigilar
La prueba útil es si alguien reproduce la tabla. Las afirmaciones más fuertes de Bolt están en pruebas de conversación, personaje y seguimiento de instrucciones, que son las más sensibles a la elección de arnés y de prompt, y su peor resultado está en RULER, la más mecánica de todas. Si las ejecuciones independientes confirman las mejoras de personaje y la brecha de contexto largo, Nvidia habrá publicado un modelo que conversa bien y recuerda mal: un intercambio razonable para un personaje de videojuego y malo para un agente.
