NVIDIA Vera impulsa el rendimiento un 20% mediante Spatial Multithreading en sus núcleos Olympus, incrementando el consumo solo un 6%.

NVIDIA también quiere hacerse fuerte en CPU, y con Vera tiene algo más que diapositivas para defender su apuesta gracias a nuevos datos de una preview para SMT que se han mostrado ahora. Las pruebas independientes de Phoronix ponen cifras al Spatial Multithreading de sus núcleos Olympus: activar los dos hilos por núcleo permite obtener alrededor de un 20% más de rendimiento con un incremento del consumo cercano al 6%. Eso sí, hablamos de cargas capaces de aprovechar semejante despliegue de hilos, que aquí hay unos cuantos.

El equipo de pruebas probado monta dos CPU Vera, con 176 núcleos y 352 hilos en total, ejecutando Ubuntu 24.04 modificado por NVIDIA, kernel Linux 6.17 con páginas de 64 KB y GCC 15.3. La comparación enfrenta este mismo servidor con SMT activado y desactivado, permitiendo medir qué aporta realmente esta tecnología. Dicho todo, ¿es tan espectacular como promocionó Jensen Huang?

NVIDIA reparte los recursos del núcleo para reducir las interferencias entre hilos en Vera con su SMT

Primero hay que aclarar las siglas, el qué hace y el cómo lo hace, porque si no estamos hablando un poco en vano para los menos iniciados. En Intel y AMD, SMT significa Simultaneous Multithreading, conocido comercialmente como Hyper-Threading en Intel, mientras que en AMD no tiene un nombre de marketing como tal. Permite, simplificando mucho el concepto, que dos hilos aprovechen los recursos de un núcleo, aunque pueden competir entre sí por ellos.

NVIDIA, en cambio, utiliza Spatial Multithreading, que igualmente es llamado como SMT: Olympus como arquitectura de núcleo está diseñado para particionar recursos entre dos hilos de hardware, ofreciendo contextos de ejecución más aislados. Dicho de forma sencilla, busca que el trabajo de un hilo entorpezca menos al otro y que los tiempos de respuesta sean más predecibles y ahí está la clave de los datos que vamos a ver ahora.

Esto es algo especialmente útil cuando muchos agentes de Inteligencia Artificial ejecutan código, consultan datos y realizan tareas auxiliares simultáneamente. No convierte cada núcleo en dos núcleos completos, pero permite aprovechar mejor lo que hay dentro de ellos, sus unidades y sobre todo, la latencia entre los distintos módulos internos de Vera.

La media mejora un 22,6%, con ganancias de hasta el 51% en CoreMark

Los gráficos de Phoronix afinan ese 20% del que hablábamos antes, puesto que la media geométrica pasa de 49.380,09 a 60.563,77 puntos, una mejora del 22,6%. El consumo medio conjunto, en cambio, sube de 698,69 a 739,02W, apenas 40,33W adicionales, un 5,8%.

Tampoco se consigue disparando los MHz como se podría pensar, es decir, usar o no usar SMT variaría la frecuencia final, y no es así. La media del registro de frecuencia máxima queda prácticamente idéntica: 3.273,76 MHz sin SMT y 3.265,99 MHz con él. Los máximos de consumo alcanzan 1.057,04 y 1.079,95W, respectivamente. Cabe señalar que son mediciones de ambas CPU, no del servidor completo.

Por aplicaciones, QuantLib mejora alrededor del 20% tanto en rendimiento como en rendimiento por vatio, mientras RocksDB y OpenSSL también salen beneficiados. CoreMark gana un 51%, aunque consume unos 90W adicionales, y dynamic-load-bench consigue un 48% más de rendimiento y un 37% más de rendimiento por vatio. OSPRay, POV-Ray y 7-Zip también aprovechan el SMT.

Las diferencias de consumo son mínimas, el rendimiento aumenta, la frecuencia se mantiene

En Stockfish, las mejoras son del 27% en rendimiento y del 28% por vatio. Pero como siempre pasa, no todo escala igual: compilar código ofrece avances pequeños y OpenFOAM funciona mejor sin SMT, una excepción relevante para computación científica. La función puede desactivarse según la carga, siendo la parte positiva para los de TI, que puede adaptar el rack o servidor concreto en estos casos de uso específico.

Pogocache y Memcached completan los resultados favorables en la misma línea. NVIDIA cumple así su previsión de mejora en cargas adecuadas con SMT, siendo bastante uniforme en la subida, aunque estas pruebas no establecen que Vera supere a Xeon o EPYC, ya que eso es una comparación aparte para enfrentar sus tecnologías de SMT. Lo que demuestran es que su segundo hilo aporta trabajo útil con un coste energético contenido.

Y en un servidor, eso cuenta vistos los consumos increíbles de solo dos de estas CPU. Imaginemos el impacto cuando haya cientos de miles en un centro de datos, una locura que evidencia a la postre que tener activo SMT en estas CPU NVIDIA Vera, salvo los casos citados, es un acierto en todos los sentidos.