• NVIDIA siempre ha sido reconocida por ser la compañía de tarjetas gráficas para jugadores de PC (GeForce) y para profesionales (Quadro). Sin embargo, hace unos años ya la conocemos más bien por ser la compañía de gráficas de IA. De hecho, ganan mucho más dinero gracias a estas que a las GeForce para gaming y las Quadro para 3D, simulaciones y renders. El CEO de NVIDIA está totalmente a favor de la inteligencia artificial como ya te imaginarás, pero encima se enfada si los ingenieros de élite no usan mucho la IA en el trabajo, pues creen que deberían llegar a 250.000 tokens IA al año como mínimo.

NVIDIA es una de las empresas que más se ha beneficiado de esta nueva era dominada por la IA. Justo cuando todo empezó, sus GPU para entrenamiento e inferencia de IA eran consideradas como las mejores y viendo la gran demanda de hardware que hay por parte de la industria, sabían que centrarse en eso era lo ideal. Así hicieron y en un tiempo récord NVIDIA pasó de ser la octava empresa con mayor capitalización del mundo a llegar a ser la primera. Desde entonces no ha habido vuelta atrás y priorizan las gráficas para IA y todo lo relacionado con la inteligencia artificial, que menos.

El CEO de NVIDIA, Jensen Huang, dice que sus ingenieros de élite deben gastar al menos 250.000 tokens de IA cada año, el 50% de su salario

Aunque NVIDIA se dedica principalmente al hardware, tiene un equipo de ingenieros y aquellos que se encuentran ocupando los cargos superiores, la "élite" de los ingenieros de IA, tienen que gastar muchos tokens. Jensen Huang, el CEO de NVIDIA, opina que los ingenieros que cobran 500.000 dólares al año deben gastar al menos la mitad de eso en tokens de IA, es decir, establece un mínimo de 250.000 tokens. El token es la unidad básica de texto que usa la IA para procesar la información y se dividen en tokens de entrada y de salida.

Una estimación aproximada es que 1.000 tokens equivalen a 750 palabras, así que esto implicaría que para llegar a los 250.000 tokens mínimos que exige el jefe de NVIDIA habría que alcanzar 187.500 palabras en un modelo de IA. Dependiendo del tipo de modelo, el contenido generado, qué tipos de palabras usamos y la complejidad, el coste va a variar bastante. En casos como ChatGPT que es bastante eficiente, el coste de esos miles de tokens es muy barato, suponiendo menos de un dólar si son tokens de entrada y unos pocos dólares si son de salida.

NVIDIA se ha gastado 2.000 millones de tokens que usa como compensación, así que quiere que les den un uso debido

A grandes rasgos, los prompts de texto que escribes se considerarían tokens de entrada y lo que recibes como respuesta serían los tokens de salida. Visto de esta forma, son muchísimas palabras y consultas si esos 250.000 tokens se consideran de entrada, pero si son de salida no es tan exagerado. Además, el argumento de NVIDIA es rotundo y es que está reconociendo que están gastando 2.000 millones de tokens para que los use el equipo de ingenieros. Visto así, sería absurdo no aprovechar la oferta del CEO de NVIDIA y, de hecho, Huang dijo que una de sus estrategias para contratar es que consiguen la mitad de su sueldo en tokens de IA, como mínimo.

Esta es una compensación que quiere que se use activamente y el CEO de NVIDIA declaró que podrán ampliar esa cifra 10 veces. Básicamente todo forma parte de la idea de que cuantos más tokens tenga un ingeniero, más productivo será. Así pues, no solo tendrán un salario alto, sino que también tendrán acceso a la IA gratuito durante toda su estancia en la compañía y al jefe no le importa que gasten de más. Si sobra, pues son libres de hacer lo que quieran con esos tokens, incluso venderlos o donarlos. Total, ya vimos que a NVIDIA y a OpenAI les parecía bien que los tokens fuesen como dinero real.