Dos tamaños, un espacio
Perplexity publicó pplx-embed-v2-late el 7 de octubre: dos modelos de recuperación con pesos abiertos, de 600 millones y 9.000 millones de parámetros, en Hugging Face con licencia MIT. Son recuperadores de interacción tardía al estilo ColBERT: emiten un vector de 128 dimensiones por cada token en lugar de comprimir el documento en un solo vector, y puntúan con MaxSim, donde cada token de la consulta elige el token del documento que mejor le encaja y se suman esos máximos.
Lo que la empresa destaca primero no es una cifra de referencia sino una propiedad de interoperabilidad. Ambos puntos de control se destilaron del mismo modelo maestro de 18.000 millones mediante lo que llama destilación de representación al estilo LEAF, alineando la salida por token de cada alumno con la del maestro. Por eso los dos modelos comparten un espacio de incrustación, y un corpus indexado por el modelo de 9.000 millones puede consultarse con consultas incrustadas por el de 600 millones.
Por qué ahí está la gracia
Indexar y consultar tienen economías distintas. La indexación se hace sin conexión, una vez, y su coste se reparte entre todas las búsquedas posteriores; la codificación de la consulta corre en la ruta de latencia de cada petición. El argumento de Perplexity es que conviene pagar por calidad donde sale barato y por velocidad donde no.
La empresa informa de lo que da esa configuración asimétrica. En recuperación de imágenes de ViDoRe v3, indexar con el modelo de 9.000 millones y consultar con el de 600 millones da 63,5%, frente al 62,3% cuando el pequeño hace ambas cosas: 1,2 puntos de ganancia con idéntico coste de consulta. En 72 pruebas de texto por dominio la configuración asimétrica gana 1,6 puntos de media. Usar el modelo grande en ambos lados sigue siendo mejor, con 81,3% en esas pruebas frente al 78,0% del pequeño, de modo que la combinación recupera aproximadamente la mitad de la diferencia sin coste en el momento de la consulta.
Las cifras, y de quién son
Todas las cifras que siguen son de Perplexity, publicadas junto al lanzamiento; ninguna está verificada de forma independiente.
En las 72 pruebas por dominio —finanzas, derecho, salud, conversación, tecnología y tareas multilingües— el modelo de 9.000 millones promedia 81,3%, que la empresa dice es el mejor de todo lo evaluado y 1,6 puntos por delante del siguiente. El de 600 millones promedia 78,0%, a 0,3 puntos de gemini-embedding-2. En ViDoRe v3 Markdown obtienen 64,7% y 61,2%, frente al 60,6% del mejor modelo externo probado.
En Q2D-Web, la prueba propia de Perplexity con unas 70.000 consultas reformuladas por agentes sobre 190 millones de documentos web, ambos modelos superan a todas las referencias en los tres conjuntos de juicios de relevancia; en el conjunto combinado alcanzan 74,8% y 73,6% de recall@1000 frente a un mejor resultado previo de 69,3%. En recuperación visual, el de 9.000 millones logra 65,2% en ViDoRe v3 imagen, solo por detrás de EVIE, de Tencent, entre los comparados; el de 600 millones llega a 62,3% activando 340 millones de parámetros para la entrada de imagen.
En tareas agénticas, un agente GPT-OSS-120B que usa el recuperador de 9.000 millones obtiene 64,0% en BrowseComp+, que según Perplexity son 4,9 puntos más que el siguiente modelo ColBERT y 8,7 más que el siguiente denso. En MADQA —500 preguntas escritas por personas sobre 800 PDF reales de más de 18.000 páginas— un agente Gemini 3.5 Flash con el modelo de 9.000 millones llega al 92,4% de acierto, frente al 88,9% con el recuperador de Mixedbread. Perplexity señala que el sistema agéntico completo de Mixedbread obtiene 93,4%, dentro de su intervalo de confianza.
Los costes que el texto no oculta
La interacción tardía guarda vectores por token y no por documento, de modo que el índice es mayor y la puntuación de candidatos más pesada, y el coste crece con la longitud del documento. Perplexity lo dice con claridad y presenta su salida de 128 dimensiones como ventaja de almacenamiento frente a competidores de 2.048 y 4.096 dimensiones.
La empresa afirma además que excluyó del entrenamiento todo conjunto asociado a una prueba en la que se evalúa, asumiendo un coste de calidad para que las cifras signifiquen algo. Todavía no hay API alojada: hoy los modelos son para quien los ejecute por su cuenta, y Perplexity dice que irá incorporando incrustaciones de interacción tardía, densas y contextuales en su plataforma y publicará un informe técnico más adelante este año.
