NVIDIA lanza la RTX PRO 6000 Blackwell con 96 GB, que ofrece el mismo rendimiento que 4 RTX 5090 en modelos de IA pero con 4 veces menos consumo energético, consolidándose como líder en aceleración para inteligencia artificial en occidente.

En esta era dominada por la IA, las tarjetas gráficas de NVIDIA se han convertido en las más demandadas por la industria. Aunque es cierto que empresas como Huawei con sus aceleradores están llevándose el mercado en China, en occidente es NVIDIA la que todos quieren. Ha surgido competencia en forma de distintas empresas con chips y aceleradores, pero al final, la única con la que compite NVIDIA es consigo misma si tenemos en cuenta su enorme cuota de mercado. Aunque NVIDIA segmenta sus gráficas dedicadas a la IA y las de gaming por separado, tenemos la PRO que se queda entre medias. Aunque esta apenas mejora en juegos, en modelos de IA muy grandes la RTX PRO 6000 Blackwell tiene un rendimiento equivalente a 4 RTX 5090, mostrando así su ventaja al tener mucha más VRAM.

Como ya sabrás, la situación de la memoria y sus precios se deben a la industria de la IA, pues para entrenamiento e inferencia se requiere tener una gran cantidad de memoria. A medida de que aumenta la complejidad de los modelos de IA usados, se va a exigir tener más memoria y almacenamiento. En cuanto a memoria no solo hablamos de la RAM tan cara, sino de la VRAM de las tarjetas gráficas, pues estas son las que se utilizan principalmente.

La RTX PRO 6000 Blackwell de 96 GB tiene casi el mismo rendimiento que 4 RTX 5090 con 128 GB en total en modelos de IA grandes

Debido a la limitación de memoria, nos encontramos con casos donde un hardware es mucho más rápido en IA que otro debido a esto. Si bien podemos aplicarlo en benchmarks de una sola gráfica con un modelo de IA donde una tiene memoria suficiente y otra no, aquí tenemos un caso distinto. Aquí se ha usado un modelo de IA de gran tamaño como el MiniMax M2.7 con 230B (230.000 millones) de parámetros y equivale a 4 RTX 5090 según los datos de stevibe en X.

Este ha mencionado como estuvo probando Unsloth UD-IQ_XXS de 80 GB que es compatible con hardware con menos VRAM, pero igualmente vemos diferencias interesantes. Aquí la RTX PRO 6000 consiguió 118,74 tokens por segundo con un tiempo hasta primer token (TTFT) de 765 ms. La más cercana en velocidad es la combinación de 4 RTX 5090 para conseguir 128 GB de VRAM en total con 120,54 tokens por segundo y un TTFT de 725 ms, así que básicamente está al mismo nivel.

En términos de eficiencia no hay rivalidad, la RTX PRO 6000 consume casi 4 veces menos

La comparativa con 4 RTX 4090 proporciona 96 GB de VRAM, lo mismo que la RTX PRO 6000 Blackwell, pero en esta ocasión vemos que es bastante más lento con 71,52 tokens por segundo y TTFT de 1.045 ms. Por último, tenemos el DGX Spark que se conforma con 24,41 tokens por segundo y TTFT de 741 a pesar de tener 128 GB de VRAM.

En cuanto al consumo de energía usando los TDP, las 4 RTX 4090 llegarían a 1.800W mientras que las 4 RTX 5090 alcanzan 2.300W. En comparación, la RTX PRO 6000 Blackwell consume 600W, prácticamente 4 veces menos que la combinación de 5090.

Por último, el DGX Spark consume 240W y se trata de un PC completo, así que tampoco está nada mal. Así pues, podemos concluir que la RTX 6000 PRO es una gráfica claramente superior a la RTX 5090 para IA cuando se trata de modelos muy complejos con miles de millones de parámetros. En juegos es apenas un 10% mejor que la 5090, pero claro, cuesta unos 10.000 euros así que no la aprovechas para ese uso..