Um chip para servir modelos, não para treiná-los
A Microsoft publicou na segunda-feira a arquitetura do Azure Maia 300, a terceira geração do acelerador que desenha para os seus próprios centros de dados. Cada chip leva oito pilhas de memória HBM4 que somam 288GB com 18TB/s de largura de banda, e os seus chiplets de computação são fabricados no processo N2P da TSMC, com os controladores de memória e as funções de entrada e saída passados para dados separados.
O objetivo do desenho, como o formulam a presidente de hardware da Azure, Rani Borkar, e o vice-presidente de arquitetura de sistemas, Saurabh Dighe, no texto da Microsoft, é “maximizar os tokens úteis por watt e os tokens úteis por dólar”. É uma ambição mais estreita do que a de um acelerador de uso geral. O Maia 300 foi construído para inferência — correr modelos já treinados — e a Microsoft descreve um sistema afinado de ponta a ponta para servir grandes modelos de linguagem, não para os treinar.
Todos os números são medidos contra o Maia 200
As comparações da Microsoft são todas contra o Maia 200, a peça de inferência que apresentou em janeiro. Face a esse chip reclama 36% mais computação, 2,5 vezes a largura de banda de memória, 33% mais capacidade, cerca do dobro da largura de banda por watt e 14% mais largura de banda de escalamento. Ao nível do rack reclama até sete vezes o desempenho em tokens e até 2,5 vezes o desempenho por watt.
São os números do próprio fabricante, contra a sua própria geração anterior. A UPI noticiou que nenhum terceiro havia testado o Maia 300 na segunda-feira. Outra afirmação — que o chip entregará cerca de 40% mais tokens por megawatt do que os principais sistemas com GPU — apareceu na cobertura do lançamento sem que a Microsoft nomeasse os sistemas com que se comparou.
O rack é a unidade
A parte mais marcante do anúncio é o armário. A Microsoft coloca 96 aceleradores num único rack, em 24 bandejas de quatro, o dobro da densidade do Maia 200, com um consumo de 167kW. Seis chips de comutação de alto grau ocupam três bandejas arrefecidas por líquido, a energia chega por uma barra de 50V com alimentação dupla, e o arrefecimento líquido retira mais de 80% do calor do rack. As instalações sem água de processo podem usar um trocador de calor.
Para comparação, a Reuters situou o rack GB300 da Nvidia em 72 GPU e cerca de 142kW. A Microsoft pede a um rack que absorva mais potência e mais silício do que isso, que é a direção em que foram os armários de todo o setor.
Acima do rack, a Microsoft descreve um “superpod” de até 12.288 aceleradores distribuídos por até 128 racks, com até 750GB/s disponíveis para qualquer par do pod dependendo de onde o trabalho cai. Também mudou o acesso à memória entre chiplets de uniforme para não uniforme, e acrescentou formatos MXFP4 melhorados e formatos de armazenamento abaixo de três bits com conversão em hardware — algo que só faz sentido se a carga for inferência em escala.
O que não está no texto
A Microsoft não deu datas de implantação. A cobertura do lançamento diz que o chip entra em produção em 2027 e passa a ser o sistema principal que corre a IA dentro dos produtos da Microsoft a partir desse ano, com implantações medidas em gigawatts. A The Information noticiou em agosto que a Microsoft negociava com a TSMC mais de 300.000 chips Maia 300 para 2027; continua a ser uma notícia e não uma encomenda confirmada.
A Nvidia não é afastada aqui. O texto da Microsoft trata de uma parte de uma carga de trabalho, e a empresa continua a comprar hardware da Nvidia para treino. O próximo marco concreto é o Microsoft Ignite, de 17 a 20 de novembro em São Francisco, onde Borkar e Dighe dizem que vão detalhar como o chip encaixa na estratégia.
