Cuatro mil millones de parámetros activos, empatado en el primer puesto

Nvidia publicó Nemotron 3.5 Transcribe el 28 de octubre junto con Granary v2, el conjunto de datos con el que se entrenó. El modelo tiene unos 30.000 millones de parámetros totales y en torno a 4.000 millones activos por token, y combina un codificador de voz con un modelo de lenguaje híbrido Mamba-Transformer de mezcla de expertos.

En el AA-WER de Artificial Analysis alcanza un 2,8%, empatado en el primer puesto entre los modelos de pesos abiertos, frente a un modelo con 24.000 millones de parámetros activos, seis veces más. En la tabla Open ASR de Hugging Face, Nvidia declara una tasa media de error por palabra del 5,33% en inglés, primera entre las entradas de pesos abiertos, con un RTFx de 462,09; un 4,62% de media en siete idiomas en el apartado multilingüe; y un 10,98% en audio largo, la cifra más baja de la comparación que realizó.

Un solo punto de control hace transcripción, atribución de hablante, traducción y preguntas sobre audio. Transcribe 40 idiomas, traduce 31 hacia o desde el inglés, atribuye hablantes en 13, admite grabaciones de hasta una hora y etiqueta hasta ocho hablantes. Las preguntas sobre audio están entrenadas solo en inglés, y el modelo está pensado para audio grabado, no para transmisión en directo.

Una mesa de mezclas con filas de deslizadores
Granary v2 abarca 463.062 horas en 48 idiomas. Imagen ilustrativa. David Maat · pexels · Pexels License

Diarización, y un conjunto de datos con una cifra encima

En la evaluación de diarización de David AI, con 21 idiomas y 14 sistemas, Nemotron 3.5 Transcribe logra la tasa de error de diarización más baja, un 18,26%, por poco delante del propio Nemotron 3 Diarization de Nvidia con un 18,38%, y con el resto del campo entre el 22,85% y el 37,55%. En el Diarization-Bench en inglés de VoiceArena encabeza 14 sistemas con un 32,4% de cpWER, frente al 34,2% de Multitalker Parakeet con Nemotron 3 Diarization y un campo que va del 34,7% al 71,9%.

Granary v2, el corpus de entrenamiento, es la parte con la cifra más dura: 463.062 horas en 48 idiomas procedentes de 16 corpus de origen, frente a 25 idiomas en la versión 1. Los manifiestos son públicos en Hugging Face y ModelScope, pero el audio original hay que descargarlo aparte bajo la licencia de cada corpus. La fase de filtrado de Nvidia recortó VoxPopuli de 354.000 horas a 111.000 en 22 idiomas europeos.

Catorce horas de GPU de ajuste médico

El estudio de adaptación es el resultado más concreto de la publicación. En un banco de pruebas de Eka Care con 3.619 fragmentos de médicos y estudiantes de medicina de India, el modelo partió de un 30,8% de WER en el conjunto completo, bajó al 23,8% con una indicación mejor que nombraba el inglés y el alfabeto latino, y llegó al 11,8% tras el ajuste fino: alrededor de un 62% menos de errores. En los 2.764 fragmentos reservados, el WER cayó del 22,44% al 12,17%, una mejora relativa del 45,8%, por delante de un modelo médico especializado abierto con un 13,79% y de un modelo de reconocimiento general con un 14,92%. LibriSpeech test-clean subió ligeramente, del 1,54% al 1,69%, que es la contrapartida.

El entrenamiento usó unas 153 horas de voz sintética más unas 92 horas de grabaciones públicas con acento y médicas, y ocupó unas 14 horas de GPU en una sola Nvidia GB300.

Unos auriculares de diadema sobre un escritorio
La publicación llama al modelo de pesos abiertos sin nombrar licencia. Imagen ilustrativa. Zafer Erdoğan · pexels · Pexels License

Lo que la publicación no dice

Llama al modelo de pesos abiertos y no nombra ninguna licencia: remite al lector a la ficha del modelo. Eso importa más de lo que parece: “pesos abiertos” abarca desde Apache 2.0 hasta un acuerdo a medida con restricciones de uso, y de esa diferencia depende si el modelo puede usarse comercialmente.

Lo otro que vigilar es la versión cuantizada. Nvidia dice que llegarán versiones NVFP4 y cita 100 horas de audio transcritas en menos de tres minutos en una sola GPU RTX PRO 6000 Blackwell Server Edition para esa versión futura, con alta concurrencia y fragmentos de 30 segundos. Esa cifra corresponde a software que todavía no se ha publicado.