CoreWeave anunció el 30 de septiembre, en su conferencia Fully Connected de San Francisco, que añadirá la CPU Vera de Nvidia a su nube. Nvidia describe Vera como la primera CPU construida específicamente para agentes de IA y no para computación de propósito general, y CoreWeave está entre los primeros operadores comerciales que se comprometen a ofrecerla.
La configuración que describen ambas empresas es un bastidor de 128 CPU Vera con 11.264 núcleos, que admite más de 11.000 entornos de agente simultáneos. Cada chip lleva 88 núcleos, hasta 1,5 TB de memoria LPDDR5X a hasta 1,2 TB/s y un enlace NVLink-C2C con una GPU de hasta 1,8 TB/s.
La ventaja declarada está en arrancar, no en ejecutar
CoreWeave dice que los entornos aislados de agente arrancan más de tres veces más rápido en Vera que en x86, y comunica hasta 1,8 veces en cargas de código y compilación. Ambas cifras proceden de los fabricantes y no han sido verificadas de forma independiente.
El argumento de fondo trata de lo que hace realmente una carga de agentes. Un agente pasa buena parte del tiempo creando un entorno aislado, ejecutando dentro una tarea corta y desmontándolo, lo que exige creación de procesos, ancho de banda de memoria y enlace con el acelerador más que rendimiento sostenido de un solo hilo. Chen Goldberg, vicepresidente ejecutivo de producto e ingeniería de CoreWeave, lo planteó como que la infraestructura de propósito general estrangula a la IA agéntica, y Vera es la primera CPU diseñada expresamente para acelerarla.
Rubin es la parte que ya se entrega
Por separado, un clúster Vera Rubin NVL72 de varios bastidores —72 GPU Rubin y 36 CPU Vera por bastidor— entró en disponibilidad limitada en la nube de CoreWeave el 30 de septiembre, con Cognition, la empresa detrás del agente de programación Devin, como primer cliente que ejecuta cargas de producción en él. El servicio de CPU Vera por separado no tiene fecha de lanzamiento ni precios publicados.
Qué vigilar
Si alguien publica una medición del arranque de entornos en Vera que no hayan realizado Nvidia ni CoreWeave, y si el precio se acerca a las instancias x86 cuando lo tenga.
