Dos puntos de control abiertos, sin tokens

Liquid AI publicó dos modelos de pesos abiertos el 7 de octubre: d1-3B, que acepta texto e imágenes, y d1-omni-600M, que acepta texto junto a una imagen o audio. Ambos están en Hugging Face y pertenecen a una categoría que se ha llenado deprisa este otoño: los modelos de decisión, que no generan texto en absoluto.

La distinción importa para la latencia. Un modelo generativo emite tokens de uno en uno; un modelo de decisión procesa el estado en un solo paso hacia delante y devuelve una respuesta estructurada entre las opciones que le da el desarrollador. Liquid AI mide por tanto el tiempo de extremo a extremo en lugar de tokens por segundo, y las cifras que publica están en milisegundos.

Lo que informa la empresa

En su propio Índice de Decisión v0.2.1, partición pública, la compañía sitúa a d1-3B en 48,57, por delante —dice— de todos los modelos por debajo de 10.000 millones de parámetros y a la par de Decider 35B-A3B, un modelo doce veces mayor. d1-omni-600M obtiene 15,95 en el mismo índice y se describe como un primer punto de control experimental.

Maquinaria de manipulación automatizada sobre una línea de transporte en una fábrica
Los modelos de decisión devuelven una respuesta estructurada en un solo paso, sin generar texto. Fotografía ilustrativa. Freek Wolsink · pexels · Pexels License

En siete pruebas públicas de texto —SQuAD 2.0, Civil Comments, MASSIVE intent, PubMedQA, BoolQ, XNLI y PAWS-X— la empresa informa de una media de 82,9 para d1-3B frente a 81,1 de Decider 4B, y de 78,4 para d1-omni-600M frente a 77,1 de Decider 2B con alrededor de una cuarta parte de los parámetros. El modelo pequeño lidera la tabla en detección de toxicidad, con 95,8 en Civil Comments, y en identificación de paráfrasis, con 79,5 en PAWS-X. Todas estas cifras son de la propia Liquid AI; ninguna ha sido reproducida de forma independiente.

La compañía es explícita sobre una laguna. El Índice de Decisión v0.3 incluye una partición privada de visión, y Liquid AI dice que no informa sobre ella en esta publicación; a cambio señala que d1-3B conserva la capacidad visual de su base LFM2.5-VL-3B en pruebas estándar. Sobre el audio, afirma que las pruebas de decisión específicas son “ahora mismo un problema abierto” e invita a la comunidad a construirlas.

De dónde sale la cifra de velocidad

La tabla de latencia es la parte que conviene leer con atención, porque es concreta. Para una sola pregunta, Liquid AI mide d1-3B en 8 ms sobre una Nvidia RTX 4090 y 9 ms sobre una AMD MI325X; en el borde, 16 ms en una Nvidia Jetson AGX Thor, 26 ms en una Jetson AGX Orin de 64 GB, 30 ms en un Apple M5 Pro y 50 ms en una Jetson Orin Nano.

El interior de un ordenador de sobremesa, con módulos de memoria y la pantalla de un refrigerador
Liquid AI informa de 8 milisegundos para una sola pregunta en una GPU de sobremesa. Fotografía ilustrativa. Matheus Bertelli · pexels · Pexels License

Tres preguntas sobre el mismo estado cuestan solo alrededor de 1,3 veces lo que una sola —de 16 ms a 20 ms en la AGX Thor—, que es el sentido práctico de la arquitectura: un paso sobre el estado puede responder varias preguntas sobre él. Una imagen de 384 píxeles tarda 17 ms en la 4090 y 35 ms en la Thor. Un estado de 3.400 tokens es donde los dispositivos pequeños sufren: 1.640 ms en la Orin Nano frente a 102 ms en la 4090. Todas son medidas de una sola petición, y las cifras del borde se obtuvieron en colaboración con Nvidia.

Cómo se construyeron

d1-3B se entrena a partir de LFM2.5-VL-3B, un modelo visión-lenguaje solo de decodificador. Liquid AI dice que promedió los pesos de LFM2.5-2.6B y los del tronco de texto de LFM2.5-VL-3B para obtener una base mejor, ajustó puntos de control con distintas semillas y mezclas de datos y volvió a fusionarlos, y que entrenar con entradas largas, barajar las opciones de respuesta y corregir atajos en los datos pesó más que técnicas más elaboradas.

d1-omni-600M procede de LFM2.5-Encoder-350M, un codificador bidireccional, con un codificador de audio FastConformer y un codificador de visión de LFM2.5-VL-450M añadidos por etapas.

Los modelos llegan con soporte de llama.cpp desde el primer día y la empresa los describe como descargables, ajustables y desplegables sin restricciones. Lo que hay que seguir es si aparece una evaluación independiente de las cifras del Índice de Decisión y si alguien construye la prueba de decisión de audio que Liquid AI dice que no existe.