Qué se ha publicado
DeepSeek ha publicado DeepInfer, el marco de inferencia que, según dice, impulsa sus propios servicios de producción a gran escala, bajo la licencia Apache 2.0. El repositorio describe la entrega como «inferencia offline con las funciones esenciales necesarias para servir a escala».
La inferencia es la mitad poco vistosa de operar un modelo de lenguaje: el software de servicio que convierte un conjunto de pesos entrenados en una API que responde rápido y barato. Los laboratorios casi nunca lo abren. DeepSeek acaba de abrir una versión del suyo, y el detalle que importa es qué versión.
Un modelo, dos aceleradores
DeepInfer admite exactamente un modelo —DeepSeek-V4.1-Flash— y descarga por defecto el punto de control DeepSeek-V4.1-Flash-1017. Es el modelo que DeepSeek colocó este mes detrás de su propia API Flash.
La lista de hardware es la línea más interesante. DeepInfer funciona en GPU Nvidia SM100 y en NPU Huawei Ascend 950, y el script de compilación acepta nvidia o ascend como destino. Los requisitos difieren en consecuencia: CUDA 13 para la vía de Nvidia, CANN 9.2 de Huawei para la de Ascend. Que un laboratorio chino ofrezca soporte de primera clase para un acelerador nacional junto al más reciente de Nvidia dice algo sobre dónde espera que corran sus usuarios.
Lo que falta deliberadamente
El repositorio es inusualmente franco sobre la distancia entre esto y lo que DeepSeek ejecuta internamente. Bajo un encabezado sobre lo «necesario para un servicio de inferencia completo (no incluido en esta versión)» enumera tres elementos: un sistema de caché KV, la desagregación de prefill y decode —de la que dice que «la mayor parte de la funcionalidad de motor necesaria ya está implementada»— y el balanceo de carga entre réplicas de paralelismo de datos, tanto para prefill como para decode.
No son notas al pie. Son las capas que convierten un motor en un servicio, y ahí reside buena parte de la ventaja de coste en un despliegue grande. Lo publicado es la parte que ejecuta; la parte que enruta, cachea y equilibra no lo está.
Los números que no están
El README de DeepInfer enlaza gráficas de prefill y decode y precisa las condiciones —«medido en 4 GPU SM100 para prefill y 64 para decode, cada una dentro de un mismo dominio de escalado»— pero la página no incluye en texto ninguna cifra de rendimiento ni de latencia. El conjunto de funciones declarado sí es concreto: paralelismo de datos en atención, paralelismo de contexto equilibrado, paralelismo de expertos con balanceo, planificación asíncrona, inferencia invariante al lote, muestreo determinista y salidas estructuradas.
DeepSeek también reconoce sus fuentes. Los agradecimientos dicen que DeepInfer «se construyó originalmente sobre todo a partir de vLLM, con inspiración adicional de SGLang y TensorRT-LLM». Es decir, una bifurcación endurecida de la pila de servicio abierta que el resto del sector ya usa, no un linaje aparte.
El momento
La publicación coincidió con el día en que la orden del Departamento de Seguridad Nacional de EE. UU. apareció en el Registro Federal, excluyendo los productos de DeepSeek de la contratación civil federal y exigiendo su retirada de los sistemas de los organismos civiles, incluidos productos de terceros «desarrollados usando implementaciones de DeepSeek». El aviso se registró el 19 de octubre y se publicó el 20.
The Decoder, que informó primero de la entrega, dice que DeepSeek planteó el objetivo como ayudar a la comunidad a reducir costes de cómputo y consumo de energía, y que una biblioteca complementaria, deepseek-recipe, reproduce el tratamiento de tokens de la API oficial para que los despliegues propios se comporten igual.
Qué vigilar
Dos cosas. Si DeepSeek publica las capas que faltan de caché, enrutado y balanceo, lo que convertiría DeepInfer de motor en pila desplegable. Y si alguien fuera de DeepSeek publica cifras reproducidas en hardware Ascend 950: el repositorio incluye un script de barrido precisamente para eso, y todavía no ha aparecido ningún resultado independiente. La mañana del 21 de octubre el repositorio tenía unas 14.400 estrellas, 1.400 bifurcaciones y 124 solicitudes de incorporación abiertas, con dos colaboradores listados.
