Nvidia presenta su solución de próxima generación a escala de rack Kyber, impulsada por las GPUs Rubin Ultra con cuatro chiplets de cómputo y 1 TB de memoria HBM4E por paquete. La compañía ha demostrado la bandeja Rubin Ultra, la primera GPU de IA del mundo con esta capacidad de memoria, diseñada para integrarse en los racks Kyber. Este avance marca un hito en el rendimiento para cargas de trabajo de inteligencia artificial y computación de alto rendimiento. 

• Nvidia presenta su solución de próxima generación a escala de rack Kyber, que será impulsada por las GPUs Rubin Ultra con cuatro chiplets de computación y 1 TB de memoria HBM4E por paquete. Estas nuevas tarjetas gráficas, las primeras del mundo en incorporar tanta memoria de alto ancho de banda, están diseñadas para cargas de trabajo de inteligencia artificial de vanguardia y supercomputación.
• El Rubin Ultra es el sucesor de la arquitectura Blackwell de Nvidia y promete un salto significativo en rendimiento y eficiencia. Según la compañía, estos chips se integrarán directamente en los racks Kyber, optimizados para centros de datos y sistemas de IA a gran escala.
• La memoria HBM4E (High Bandwidth Memory de cuarta generación mejorada) ofrece un ancho de banda sin precedentes, lo que permitirá entrenar modelos de IA más grandes y complejos en menos tiempo. Nvidia también destacó que esta tecnología será clave para aplicaciones como la simulación científica, el procesamiento de lenguaje natural y los sistemas autónomos.
• Aunque aún no hay una fecha de lanzamiento confirmada, se espera que los primeros sistemas con Rubin Ultra lleguen al mercado en los próximos años, consolidando el liderazgo de Nvidia en el sector de la computación acelerada.

Nvidia presenta su solución de próxima generación a escala de rack Kyber, que estará impulsada por las GPUs Rubin Ultra con cuatro chiplets de cómputo y 1 TB de memoria HBM4E por paquete. La compañía reveló detalles técnicos durante su evento GTC 2024, destacando que Kyber está diseñado para satisfacer las demandas de los centros de datos más exigentes, especialmente en áreas como la IA generativa, el aprendizaje automático avanzado y la simulación científica. 

 Entre las características clave de las GPUs Rubin Ultra se incluyen: - Arquitectura modular: Los cuatro chiplets de cómputo permiten una mayor flexibilidad y escalabilidad, optimizando el rendimiento según las necesidades específicas de cada carga de trabajo

. - Memoria HBM4E: Con 1 TB por paquete, esta tecnología ofrece un ancho de banda sin precedentes, reduciendo los cuellos de botella en aplicaciones que requieren grandes volúmenes de datos. - Eficiencia energética: Nvidia afirma que Kyber mejora la relación rendimiento-consumo, lo que se traduce en menores costos operativos para los centros de datos. 

Además, la solución Kyber incorpora avances en interconexión NVLink, permitiendo una comunicación más rápida y eficiente entre múltiples GPUs. Esto es crucial para entrenar modelos de IA a gran escala, donde la sincronización y el intercambio de datos entre nodos son críticos. Nvidia también anunció que Kyber será compatible con su plataforma DGX, lo que facilitará su adopción en entornos empresariales y de investigación. Los primeros sistemas basados en esta tecnología se esperan para 2025, aunque la compañía no proporcionó una fecha exacta de lanzamiento. 

En el evento, el CEO de Nvidia, Jensen Huang, destacó que Kyber representa un "salto cuántico" en la computación acelerada, comparándolo con los avances logrados por la compañía en generaciones anteriores. "Estamos redefiniendo lo que es posible en la IA y el cómputo de alto rendimiento", afirmó. 

La presentación de Kyber llega en un momento en el que la demanda de infraestructura de IA sigue creciendo exponencialmente, con empresas y gobiernos invirtiendo fuertemente en soluciones capaces de manejar cargas de trabajo cada vez más complejas. Nvidia, líder indiscutible en el mercado de GPUs para centros de datos, busca consolidar su posición con esta nueva oferta.

Fuentes:
https://www.tomshardware.com/pc-components/gpus/nvidia-demonstrates-rubin-ultra-tray-worlds-1st-ai-gpu-with-1tb-of-hbm4e