Amazon busca competir con NVIDIA vendiendo sus chips Trainium

La compañía Amazon ha decidido expandir su negocio de hardware y comenzará a comercializar sus chips Trainium, diseñados específicamente para la inteligencia artificial, a empresas externas. Hasta ahora, estos procesadores estaban integrados en su propia infraestructura de EC2.

Con este movimiento, el gigante tecnológico sigue la estrategia de otras firmas como Google, con el objetivo de reducir la dominancia de NVIDIA en el sector de los semiconductores para IA.

Amazon quiere vender sus chips de inteligencia artificial a empresas externas para competir con NVIDIA. La compañía confirmó que ya hay conversaciones con algunos clientes para comercializar los chips Trainium que utilizan en la plataforma EC2. Amazon seguirá el camino de Google y otras tecnológicas que buscan recortar la hegemonía de NVIDIA en el mercado de hardware para IA.

De acuerdo con Bloomberg, Amazon ha iniciado conversaciones con otras empresas para vender sus chips Trainium directamente, sin que pasen por AWS. El jefe de IA, Peter DeSantis, reveló durante la conferencia VivaTech en París que la compañía había puesto en marcha este plan, aunque no mencionó los nombres de los posibles compradores.

La venta directa de hardware representa un giro notable para una empresa que tradicionalmente reservaba sus chips para los usuarios de AWS. Amazon quiere aprovechar la demanda de poder de cómputo que existe en todo el mundo, así como la soberanía de datos.

Parte de la presión viene de Europa. El furor por la soberanía tecnológica en el continente ha empujado a Amazon a buscar fórmulas para llegar a esos mercados de otra manera. Muchos países buscan reducir la dependencia tecnológica a servidores externos y desean mantener el procesamiento dentro de sus fronteras físicas.

Aunque el giro hacia la venta de chips podría representar un riesgo para su negocio en la nube, Amazon descartó que pudiera haber una caída. "Hay tanto subconsumo en IA que no me preocupa que esto afecte al negocio de AWS", dijo DeSantis.

Qué son los chips Trainium de Amazon que competirán con NVIDIA

Trainium es la familia de aceleradores de IA que Amazon diseña internamente. Actualmente existen tres generaciones enfocadas a entrenar e inferir modelos LLM, cada una con distintas configuraciones.

El Trainium1 es el punto de entrada y promete un coste de entrenamiento hasta un 50% inferior al de instancias equivalentes en EC2. El Trainium2 multiplica por cuatro el rendimiento del primero y mejora la relación precio-rendimiento entre un 30 y un 40% frente a las instancias basadas en GPU de NVIDIA. Según la web de Amazon, las configuraciones más potentes llegan a conectar 64 chips en un solo servidor mediante NeuronLink, el sistema de interconexión de Amazon

De toda la familia, el Trainium3 es el más potente. Fabricado en proceso de 3 nm, este chip ofrece 2,52 petaflops de procesamiento FP8, un 70% más de ancho de banda de memoria que su predecesor y hasta 144 GB de HBM3e. Comparado con un servidor con Trainium2, esta variante cuadruplica el rendimiento y la eficiencia energética. DeSantis confirmó que la tercera generación está prácticamente agotada y que el interés por la cuarta ya es notable.

Amazon lleva unos años construyendo su ecosistema de chips y esta jugada convierte a Trainium en un rival directo del NVIDIA H100 más allá de los muros de AWS. Google está haciendo algo similar y hace unos días se filtró que está por cerrar un acuerdo con Samsung para fabricar sus próximos chips TPU. La firma californiana, que siempre ha dependido de TSMC, busca alternativas para satisfacer la demanda que existe por aceleradores de IA.

Por otro lado, OpenAI también trabaja en el desarrollo de un chip propio, aunque no para venderse a terceros. Según Ming-Chi Kuo, la empresa liderada por Sam Altman se asoció con Qualcomm y MediaTek para fabricar un SoC enfocado a dispositivos móviles.