Los pesos, y la condición

Mistral Large 4 —al que Mistral llama Le Chonk— ya se puede descargar. Hugging Face publicó el lanzamiento el 29 de octubre con puntos de control oficiales en FP8 y NVFP4, conversiones GGUF de Unsloth y del equipo de llama.cpp, y soporte desde el primer día en Transformers, vLLM y llama.cpp.

La licencia no es una licencia de código abierto estándar. Hugging Face describe la Mistral Ecosystem Open-Weight License como un derivado de MIT que establece limitaciones para las ofertas de modelo como servicio: es decir, se pueden tomar los pesos y construir sobre ellos, pero revender el modelo como servicio alojado es donde las condiciones empiezan a apretar.

Hay además una pequeña discrepancia que conviene anotar. La introducción del artículo da el modelo como de alrededor de un billón de parámetros totales con 49.000 millones activos, mientras que el punto de control oficial se publica como Mistral-Large-4-1T-A52B. Ambas cifras salen de la misma página.

Tarjetas gráficas instaladas dentro de una caja de ordenador
Las cuantizaciones más pesadas requieren inferencia distribuida en varios aceleradores. Ilustración. Matheus Bertelli · pexels · Pexels License

En qué se ejecuta

Las cifras más útiles son las de rendimiento, porque dicen quién puede ejecutarlo de verdad. Hugging Face informa de que las cuantizaciones de 2 bits caben en una sola máquina Apple Silicon Ultra con 512 GB de memoria unificada, y que ejecutar Q2_K en un M3 Ultra dio alrededor de 90 tokens por segundo de prellenado y 15 de generación. Todo lo más pesado necesita inferencia distribuida.

En cuatro tarjetas RTX 6000 Pro, el artículo informa de NVFP4 con 32.000 de contexto y un prellenado de entre 130 y 590 tokens por segundo con unos 10 de generación, y de IQ2_XXS con 800.000 de contexto logrando 500 tokens por segundo de prellenado y 30 de generación en longitudes cortas, que caen a 129 y 3 en las largas.

En ocho H200 a través de los Inference Endpoints de Hugging Face, una petición única mostró un tiempo hasta el primer token de unos 0,6 segundos con un aviso de 1.000 tokens y unos 65 tokens por segundo de generación, que suben a entre 120 y 138 cuando se acepta el borrador DSpark integrado. Bajo carga, en 1.000 conversaciones de ShareGPT, la generación total fue de unos 480 tokens por segundo.

La arquitectura

El decodificador de texto tiene 72 capas, una dimensión oculta de 6.144 y 64 cabezas de atención. La atención combina Multi-head Latent Attention con un indexador de atención dispersa al estilo DeepSeek que selecciona hasta 2.048 posiciones clave por consulta, y las capas alternan tres con codificación rotatoria de posición y una sin ella. La primera capa del decodificador es una red densa; las otras 71 son bloques de mezcla de expertos cuyo enrutador elige cuatro de 128 expertos por token, con un experto compartido siempre activo. La visión viene de un codificador Pixtral de 1.600 millones de parámetros.

Cables de red enrollados sobre una mesa
La licencia es un derivado de MIT con límites para las ofertas de modelo como servicio. Ilustración. Ann H · pexels · Pexels License

El esfuerzo de razonamiento se puede fijar en bajo, medio o alto. No se puede desactivar; el valor por defecto es alto.

Las puntuaciones, y quién las reporta

En programación, Hugging Face da 61,7% en DeepSWE v1.1, 59,4% en SWE-Atlas-QnA y 28,3% en Terminal-Bench 4, con un índice combinado de agente de código del 49,8%. En trabajo de conocimiento da 59,9% en AutomationBench y 1.393 de Elo en AA-Briefcase.

Las cifras de seguridad son las que más ha empujado Mistral: 82% en la prueba de reproducción y parcheo de vulnerabilidades dentro del Artificial Analysis Cyber Index, descrita en el artículo como la puntuación más alta reportada en esa prueba, y 93% de 40 retos de Cybench. En el índice B3 de inyección de instrucciones de Lakera se da una resistencia a ataques del 93,3%.

Una colocación independiente conviene retener frente al resto: a 29 de octubre, Artificial Analysis situaba a Mistral Large 4 como el quinto mejor modelo de pesos abiertos en su índice de inteligencia. Quinto, con los pesos en público, es una propuesta distinta de ser primero detrás de una API.