Modders logran casi doblar el rendimiento de los núcleos tensor de las GPUs GeForce RTX 20, 30 y 40, optimizando significativamente la potencia para modelos de IA avanzados.

Mejoran drásticamente el desempeño de IA en tarjetas GeForce RTX

• Gracias a la comunidad de modders, se ha hallado un método para duplicar prácticamente la capacidad de los núcleos tensor en las series GeForce RTX 20, 30 y 40. Este incremento en la potencia máxima supone una ventaja fundamental al ejecutar modelos de inteligencia artificial avanzados.

Los modders no dejan de sorprendernos. En esta ocasión han descubierto la manera de casi doblar el rendimiento de los núcleos tensor de las GeForce RTX 20, GeForce RTX 30 y GeForce RTX 40. La diferencia a nivel de potencia máxima es espectacular, y esto marca una gran diferencia cuando utilizamos modelos de IA avanzados y exigentes que dependen de operaciones FP16, BF16 y TF32.

Parece que los núcleos tensor de esas tarjetas gráficas tenían el rendimiento máximo limitado, y gracias a un nuevo mod ha sido posible desbloquear su potencial real. Este mod no altera los controladores gráficos, lo que hace es modificar los registros de configuración de bajo nivel de la GPU antes de que se cargue el controlador de NVIDIA. Esto es lo que permite superar los límites de frecuencia de ejecución de ciertos tipos de operaciones en los núcleos tensor.

El mod funciona, según nos cuentan desde VideoCardz, pero hay que tener en cuenta que no es permanente, ya que cuando apagamos el equipo deja de funcionar y es necesario volver a aplicarlo cuando lo encendamos de nuevo. Con todo, la mejora que consigue en términos de potencia bruta es tan grande que desde luego este mod vale totalmente la pena, sobre todo para entusiastas de la IA que quieran dar una segunda vida a su tarjeta gráfica.

Os pongo algunos ejemplos a nivel de rendimiento con la GeForce RTX 3090 Ti para que veáis lo grande que es la diferencia gracias a este mod:

• FP16: antes del mod 87,46 TFLOPs, después del mod 118,39 TFLOPs.
• BF16: antes del mod 87,50 TFLOPs, después del mod 157,41 TFLOPs.
• TF32: antes del mod 42,58 TFLOPs, después del mod 82,61 TFLOPs.

Las mejoras de potencia varían en función de cada tarjeta gráfica en concreto. Por ejemplo, con una GeForce RTX 4090 en FP16 la potencia sube de 165,6 TFLOPs a 331,6 TFLOPs, y en una GeForce RTX 2080 TI podemos pasar de 59,9 TFLOPs a 111 TFLOPs. También puede haber diferencias en función del modelo y del software utilizado en cada prueba.

Sin duda un mod muy interesante, aunque todavía está en desarrollo y no funciona igual de bien con todas las GeForce RTX, así que tenedlo en cuenta. Se está valorando si este mod puede afectar al precio de las GeForce RTX 20, RTX 30 y RTX 40 en el mercado de segunda mano, es decir, si puede derivar en un aumento del valor de estas. Francamente, no me atrevo a descartarlo, pero creo que si llega a ocurrir afectaría más a los modelos más potentes y con más memoria gráfica por razones evidentes, como las GeForce RTX 3090, GeForce RTX 3090 Ti y GeForce RTX 4090.