Un chip para servir modelos, no para entrenarlos
Microsoft publicó el lunes la arquitectura de Azure Maia 300, la tercera generación del acelerador que diseña para sus propios centros de datos. Cada chip lleva ocho pilas de memoria HBM4 que suman 288GB con 18TB/s de ancho de banda, y sus chiplets de cómputo se fabrican en el proceso N2P de TSMC, con los controladores de memoria y las funciones de entrada y salida trasladados a dados separados.
El objetivo del diseño, según lo plantearon la presidenta de hardware de Azure, Rani Borkar, y el vicepresidente de arquitectura de sistemas, Saurabh Dighe, en el texto de Microsoft, es “maximizar los tokens útiles por vatio y los tokens útiles por dólar”. Es una ambición más estrecha que la de un acelerador de propósito general. Maia 300 está construido para la inferencia — ejecutar modelos ya entrenados — y Microsoft describe un sistema afinado de extremo a extremo para servir grandes modelos de lenguaje, no para entrenarlos.
Todas las cifras se miden contra Maia 200
Las comparaciones de Microsoft son todas contra Maia 200, la pieza de inferencia que presentó en enero. Frente a ese chip reclama un 36% más de cómputo, 2,5 veces el ancho de banda de memoria, un 33% más de capacidad, aproximadamente el doble de ancho de banda por vatio y un 14% más de ancho de banda de escalado. A nivel de rack reclama hasta siete veces el rendimiento en tokens y hasta 2,5 veces el rendimiento por vatio.
Son las cifras del propio fabricante, frente a su propia generación anterior. UPI informó de que ningún tercero había probado Maia 300 el lunes. Otra afirmación — que el chip entregará alrededor de un 40% más de tokens por megavatio que los principales sistemas con GPU — apareció en la cobertura del lanzamiento sin que Microsoft nombrara los sistemas con los que se comparó.
El rack es la unidad
La parte más llamativa del anuncio es el armario. Microsoft coloca 96 aceleradores en un solo rack, en 24 bandejas de cuatro, el doble de densidad que Maia 200, con un consumo de 167kW. Seis chips de conmutación de alto grado ocupan tres bandejas refrigeradas por líquido, la energía llega por una barra de 50V con alimentación doble, y la refrigeración líquida retira más del 80% del calor del rack. Las instalaciones sin agua pueden usar un intercambiador de calor.
Para comparar, Reuters situó el rack GB300 de Nvidia en 72 GPU y unos 142kW. Microsoft pide a un rack que absorba más potencia y más silicio que eso, que es la dirección en la que han ido los armarios de todo el sector.
Por encima del rack, Microsoft describe un “superpod” de hasta 12.288 aceleradores repartidos en hasta 128 racks, con hasta 750GB/s disponibles hacia cualquier par del pod según dónde caiga el trabajo. También cambió el acceso a memoria entre chiplets de uniforme a no uniforme, y añadió formatos MXFP4 mejorados y de almacenamiento por debajo de tres bits con conversión en hardware — algo que solo tiene sentido si la carga es inferencia a escala.
Lo que no está en el texto
Microsoft no dio fechas de despliegue. La cobertura del lanzamiento dice que el chip entra en producción en 2027 y pasa a ser el sistema principal que ejecuta la IA dentro de los productos de Microsoft a partir de ese año, con despliegues medidos en gigavatios. The Information informó en agosto de que Microsoft negociaba con TSMC más de 300.000 chips Maia 300 para 2027; sigue siendo una información periodística y no un pedido confirmado.
Nvidia no queda desplazada aquí. El texto de Microsoft trata de una parte de una carga de trabajo, y la compañía sigue comprando hardware de Nvidia para entrenar. El siguiente hito concreto es Microsoft Ignite, del 17 al 20 de noviembre en San Francisco, donde Borkar y Dighe dicen que ampliarán cómo encaja el chip en la estrategia.
