Une puce pour servir les modèles, pas pour les entraîner
Microsoft a publié lundi l’architecture d’Azure Maia 300, la troisième génération de l’accélérateur qu’il conçoit pour ses propres centres de données. Chaque puce embarque huit piles de mémoire HBM4 totalisant 288 Go avec 18 To/s de bande passante, et ses chiplets de calcul sont fabriqués en procédé N2P de TSMC, les contrôleurs mémoire et les fonctions d’entrée-sortie étant déportés sur des puces distinctes.
L’objectif de conception, tel que le formulent la présidente du matériel Azure Rani Borkar et le vice-président de l’architecture des systèmes Saurabh Dighe dans le texte de Microsoft, est de “maximiser les tokens utiles par watt et les tokens utiles par dollar”. C’est une ambition plus étroite que celle d’un accélérateur généraliste. Maia 300 est bâtie pour l’inférence — faire tourner des modèles déjà entraînés — et Microsoft décrit un système réglé de bout en bout pour servir de grands modèles de langage, non pour les entraîner.
Tous les chiffres sont mesurés contre Maia 200
Les comparaisons de Microsoft portent toutes sur Maia 200, la puce d’inférence présentée en janvier. Face à elle, l’entreprise revendique 36 % de calcul en plus, 2,5 fois la bande passante mémoire, 33 % de capacité en plus, environ le double de bande passante par watt et 14 % de bande passante de montée en charge en plus. Au niveau du rack, elle revendique jusqu’à sept fois le débit en tokens et jusqu’à 2,5 fois la performance par watt.
Ce sont les chiffres du fabricant, opposés à sa propre génération précédente. UPI a rapporté qu’aucun tiers n’avait testé Maia 300 lundi. Une autre affirmation — la puce livrerait environ 40 % de tokens par mégawatt en plus que les meilleurs systèmes à GPU — est apparue dans la couverture du lancement sans que Microsoft nomme les systèmes auxquels il s’est comparé.
Le rack est l’unité
Le plus frappant dans cette publication, c’est l’armoire. Microsoft place 96 accélérateurs dans un seul rack, en 24 tiroirs de quatre, soit le double de la densité de Maia 200, pour 167 kW. Six puces de commutation à haut degré occupent trois tiroirs refroidis par liquide, l’alimentation arrive par un rail de 50 V en double amenée, et le refroidissement liquide évacue plus de 80 % de la chaleur du rack. Les sites sans eau de procédé peuvent passer par un échangeur thermique.
À titre de comparaison, Reuters situait le rack GB300 de Nvidia à 72 GPU et environ 142 kW. Microsoft demande à un rack d’absorber plus de puissance et plus de silicium que cela, ce qui est la direction prise par les armoires de tout le secteur.
Au-dessus du rack, Microsoft décrit un “superpod” pouvant atteindre 12 288 accélérateurs répartis sur 128 racks, avec jusqu’à 750 Go/s vers n’importe quel pair du pod selon l’endroit où le travail est placé. L’entreprise a aussi fait passer l’accès mémoire entre chiplets d’uniforme à non uniforme, et ajouté des formats MXFP4 améliorés et des formats de stockage sous trois bits avec conversion matérielle — ce qui n’a de sens que si la charge est de l’inférence à grande échelle.
Ce qui n’y figure pas
Microsoft n’a donné aucune date de déploiement. La couverture du lancement indique que la puce entre en production en 2027 et devient à partir de cette année-là le système principal faisant tourner l’IA dans les produits Microsoft, avec des déploiements comptés en gigawatts. The Information a rapporté en août que Microsoft négociait avec TSMC plus de 300 000 puces Maia 300 pour 2027 ; cela reste une information de presse et non une commande confirmée.
Nvidia n’est pas écartée ici. Le texte de Microsoft porte sur une partie d’une charge de travail, et l’entreprise continue d’acheter du matériel Nvidia pour l’entraînement. Le prochain jalon concret est Microsoft Ignite, du 17 au 20 novembre à San Francisco, où Borkar et Dighe annoncent qu’ils en diront plus sur la place de la puce dans la stratégie.
