El chip de sexta generación ha sido el responsable de entrenar a Gemini 2.0, la versión más reciente del modelo de inteligencia artificial de Google. De acuerdo con el fabricante, Trillium es un componente clave de su hiperordenador de IA, el cual puede alojar más de 100.000 chips con un ancho de banda de 13 Petabits/seg a través de una estructura de red Júpiter.

En términos de especificaciones, Trillium ofrece una mejora de 4 veces en el rendimiento de entrenamiento comparado con la generación anterior. El nuevo TPU también garantiza un aumento de hasta 3 veces en el rendimiento de inferencia, así como 4,7 veces el rendimiento informático máximo por chip. Otras ventajas del acelerador de IA que destacan son el doble de capacidad de memoria de alto ancho de banda (HBM2) y el doble de ancho de banda de interconexión entre los chips.

El ejemplo más claro de su potencia es Gemini 2.0. Según Sundar Pichai, director ejecutivo de Google, los TPU de Trillium impulsaron el 100% del entrenamiento y la inferencia de Gemini 2.0, su nuevo modelo de lenguaje. La tecnológica menciona que su chip puede utilizarse en cargas de trabajo de IA como formación y entrenamiento de modelos de lenguaje extensos (LLM), rendimiento de inferencias y programación de colecciones, modelos con uso intensivo de incrustaciones y más.

Con Trillium, Google quiere reducir la brecha con NVIDIA

Trillium puede ser la respuesta definitiva de Google al dominio de NVIDIA en el terreno de la IA. El gigante tecnológico ofrece acceso a un hipercomputador de IA que combina más de 100.000 chips, los cuales se utilizarían para entrenar modelos como Gemini o Llama.

"Los LLM como Gemini son inherentemente poderosos y complejos, con miles de millones de parámetros. El entrenamiento de LLM tan densos requiere una enorme potencia computacional combinada con optimizaciones de software diseñadas conjuntamente", dijo Mark Lohmeyer, vicepresidente de infraestructura de computación e IA en Google Cloud. "Trillium ofrece un entrenamiento hasta 4 veces más rápido para LLM densos como Llama-2-70b y gpt3-175b que la generación anterior de Cloud TPU v5e".

Fuentes:
https://hipertextual.com/2024/12/google-trillium-poderoso-chip-ia-impulsa-gemini-2-0