El costo de los sistemas de IA de próxima generación de Nvidia, basados en Vera Rubin, subirá a unos 7.8 millones de dólares por unidad. El precio de la memoria se ha disparado un 435%, representando ahora el 25% del costo total debido al aumento de LPDDR5X y almacenamiento 3D NAND. Este incremento se debe a la alta demanda y a componentes de red y refrigeración más sofisticados.





A medida que los precios de los componentes aumentan rápidamente debido a la alta demanda del sector de la IA, el coste de estas máquinas también está creciendo significativamente. Morgan Stanley Research estima que un rack VR200 NVL72 de próxima generación basado en Vera Rubin costará a los principales proveedores de servicios en la nube a hiperescala (CSP) alrededor de 7,8 millones de dólares por unidad (vía @Aaronwei3n), lo que es tangiblemente más que los unos 4 millones de dólares por GB300 NVL72. Además, debido a que cada rack VR200 NVL72 incorpora una gran cantidad de DRAM y NAND, la memoria representa ahora alrededor del 25% del coste total.

Nvidia tiene previsto cobrar 55.000 dólares por GPU Rubin y 5.000 dólares por CPU Vera cuando los venda en volumen dentro de los chasis VR200 NVL72 a los hiperescaladores, según Morgan Stanley. Aunque los próximos racks VR200 NVL72 utilizan el chasis Oberon ya conocido, emplean una conmutación, redes, placas de circuito impreso (PCB), refrigeración, fuente de alimentación e incluso componentes de empaquetado de chips más sofisticados, lo que aumenta los costes de la lista de materiales (BOM) y, finalmente, el precio de los sistemas. Como resultado, cada VR200 NVL72 costará a los hiperescaladores alrededor de 7,8 millones de dólares, según Morgan Stanley, cifra superior a los aproximadamente 7 millones que nos indicó una de nuestras fuentes a finales de marzo.

Mientras tanto, el coste de la memoria dentro de un rack VR200 NVL72 será de unos 2 millones de dólares, lo que supone un aumento del 435% respecto al coste de memoria en el GB300 NVL72, según las mismas cifras.

Existen varias razones por las que se espera que la memoria represente el 25% del coste de un sistema VR200 NVL72 y por qué el sistema lleva memoria por valor de 2 millones de dólares.