Microsoft Maia 300: especificações, desenho do rack e o plano de implantação para 2027

A Microsoft anunciou em 12 de outubro o Maia 300, a terceira geração de seu acelerador de IA próprio, segundo a Microsoft. As implantações em produção começam em 2027. A empresa diz que vai escalar a família Maia para implantações de vários gigawatts a partir desse ano e torná-la "o principal sistema de inferência para os produtos e serviços da Microsoft".

Os chiplets de computação são fabricados no nó N2P da TSMC, e cada acelerador traz oito pilhas de HBM4, com 18,0 terabytes por segundo de largura de banda máxima de memória e consumo de 950 watts. Um rack abriga 96 aceleradores em um envelope de 167 quilowatts, com 27,6 terabytes de HBM. Isso dá cerca de 288 gigabytes por chip. O Maia 200, lançado em janeiro, tinha 216 gigabytes de HBM3e e consumia 750 watts, segundo a Unite.AI.

A Microsoft descreve o projeto como voltado primeiro para inferência. Ele mira cargas de contexto longo e uso intenso de memória, além de tarefas de agentes em várias etapas, e por isso os números de memória abrem o anúncio. A empresa afirma até 40% mais tokens por megawatt do que os "principais sistemas baseados em GPU" e até 7 vezes a vazão de tokens por rack do Maia 200. Ela não nomeia nenhuma GPU como referência. Ninguém fora da Microsoft testou o chip.

As cargas previstas são as da própria Microsoft: Copilot, GitHub Copilot, o serviço de modelos do Foundry e seus modelos MAI. A publicação não diz se clientes poderão alugar o Maia diretamente e não trata de hardware de treinamento. Cada Maia 300 leva oito pilhas de HBM4 em um momento em que a Micron diz que a maior parte de sua memória de alta largura de banda de 2027 já está contratada, como noticiamos.