Microsoft Maia 300: especificaciones, diseño del rack y el plan de despliegue para 2027

Microsoft anunció el 12 de octubre Maia 300, la tercera generación de su acelerador de IA propio, según Microsoft. Los despliegues en producción empiezan en 2027. La empresa dice que escalará la familia Maia a despliegues de varios gigavatios desde ese año y que la convertirá en "el principal sistema de inferencia para los productos y servicios de Microsoft".

Los chiplets de cómputo se fabrican en el nodo N2P de TSMC, y cada acelerador lleva ocho pilas de HBM4 con 18,0 terabytes por segundo de ancho de banda máximo de memoria y un consumo de 950 vatios. Un rack aloja 96 aceleradores en una envolvente de 167 kilovatios, con 27,6 terabytes de HBM. Eso equivale a unos 288 gigabytes por chip. Maia 200, lanzado en enero, tenía 216 gigabytes de HBM3e y consumía 750 vatios, según Unite.AI.

Microsoft describe el diseño como pensado primero para la inferencia. Apunta a cargas de contexto largo y uso intensivo de memoria, y a tareas de agentes de varios pasos, y por eso las cifras de memoria encabezan el anuncio. La empresa afirma hasta 40% más tokens por megavatio que los "principales sistemas basados en GPU" y hasta 7 veces el rendimiento de tokens por rack de Maia 200. No nombra ninguna GPU como referencia. Nadie fuera de Microsoft ha probado el chip.

Las cargas previstas son las de la propia Microsoft: Copilot, GitHub Copilot, el servicio de modelos de Foundry y sus modelos MAI. La publicación no dice si los clientes podrán alquilar Maia directamente, y no aborda el hardware de entrenamiento. Cada Maia 300 lleva ocho pilas de HBM4 en un momento en que Micron dice que la mayor parte de su memoria de alto ancho de banda de 2027 ya está contratada, como informamos.