Las grandes empresas tecnológicas de Estados Unidos están invirtiendo muchísimo dinero en inteligencia artificial. Hay quienes compran hardware para poder entrenar y usar modelos de IA, otras como Amazon invierten más en robótica para sus almacenes y luego tenemos casos como el de Microsoft que está metida en varios sectores y no solo usa IA, sino que también desarrolla hardware. En solo dos años ya lleva 3 generaciones de chips y el último Azure Maia 300 ha sido anunciado ahora y conocemos sus especificaciones, aunque aún queda un tiempo hasta que se lance.

La primera vez que conocimos detalles de los chips Maia de Microsoft fue en verano de 2024, cuando se filtraron las especificaciones del Azure Maia 100. Este no era muy potente ni tenía la misma cantidad de memoria que los chips de NVIDIA, pero si formaba parte del primer paso de Microsoft de reducir la dependencia en la compañía de Jensen Huang.

El chip Azure Maia 300 de Microsoft llegará en 2027 para ofrecer un 40% más de rendimiento que Maia 200

En la siguiente generación de los chips Maia 200, Microsoft logró un salto importante al llegar a 10 PetaFLOPS FP4 y 216 GB de memoria HBM3E, siendo así competencia contra la NVIDIA B300 Ultra consumiendo aproximadamente la mitad. Ahora tenemos novedades, pues Microsoft ha anunciado que Maia 200 se usa para ejecutar modelos de IA de OpenAI además de los MAI de Microsoft y otros modelos Open Source. Lo más interesante del anuncio es que Microsoft ya ha presentado la nueva generación de chips Maia 300, los cuales permiten generar hasta un 40% más tokens por megavatio en comparación a las GPU de sus rivales.

Con un rack completo de Maia 300 (96 chips) se alcanza hasta 7 veces más rendimiento de generación de tokens respecto al rack de Maia 200. El objetivo de Microsoft es poder reducir los costes de funcionamiento de GitHub Copilot y otros servicios de IA a la vez que intentar eliminar la dependencia de hardware de AMD y NVIDIA. Microsoft planea utilizarlo en algún momento de 2027 y reemplazará a los chips 200 en IA.

El Maia 300 tiene 2,5 veces más ancho de banda que el Maia 200

A diferencia del Maia 200 que era monolítico, Maia 300 tiene varios chiplets con uno principal encargado del cálculo y fabricado con TSMC usando el nodo N2P de 2 nm. Tenemos dos chiplets de entrada/salida (I/O) dedicados a la conectividad y 4 chiplets de memoria. En cuanto a sus especificaciones y aprovechando que hemos mencionado la memoria, el Maia 300 tiene 8 stacks de memoria HBM4. Esto es lo que le proporciona 288 GB HBM4 y un ancho de banda de 18 TB/s, siendo así 2,5 veces mayor que el del Maia 200. En cuanto a potencia de cálculo, llega a 13,8 PFLOPS en FP4 mientras que en FP8 se reduce a la mitad, 6,9 PFLOPS.

En comparación, el Maia 200 llegaba a 5,1 PFLOPS en FP8 y 10,1 PFLOPS en FP4, por lo que aquí tenemos prácticamente el 40% de mejora que había dicho Microsoft. Otro cambio lo vemos en la capacidad de los racks, dado que en el Maia 300 aceptan hasta 96 chips y el Maya 200 se conformaban con 48 en total. Por último, hay una subida de consumo llegando a los 950W a pesar de usar un nodo más eficiente de TSMC, lo que implica 200W más que los 750W que consumía el Maia 200.