Entradas Mensuales

Síguenos en:

Canal Oficial Telegram de elhacker.NET Grupo Facebook elhacker.NET Twitter elhacker.NET Canal Youtube elhacker.NET Comunidad Steam: Grupo elhacker.NET Mastodon

Entradas populares

PostHeaderIcon Gigantes de chips impulsan SGLang para IA abierta


NVIDIA, AMD e Intel forman el SGLang Consortium para optimizar la inferencia de IA Open Source y facilitar la ejecución de modelos más complejos.



En un movimiento sin precedentes dentro de la industria del hardware, NVIDIA, AMD e Intel han dejado a un lado su histórica rivalidad para formar parte del SGLang Consortium. Esta alianza estratégica nace con el propósito fundamental de optimizar la ejecución de modelos de inteligencia artificial complejos, buscando que estos funcionen de manera más eficiente en diversos tipos de hardware y, sobre todo, reduciendo la dependencia actual de los ecosistemas cerrados y propietarios.

El contexto actual de la inteligencia artificial presenta una clara división: por un lado, existen los modelos cerrados ofrecidos como servicios por compañías como OpenAI o Anthropic; por otro, emergen los modelos abiertos y de uso local, impulsados por entidades como DeepSeek y otras firmas asiáticas. Ante este escenario, el SGLang Consortium surge como una respuesta para potenciar la vertiente del código abierto, fomentando la competitividad y la interoperabilidad tecnológica.

La iniciativa fue presentada formalmente por la organización sin fines de lucro LMSYS durante el primer SGLang Summit celebrado en San Francisco. Este consorcio no solo cuenta con los tres gigantes del hardware, sino que se compone de ocho empresas fundadoras en total: NVIDIA, AMD, Intel, Google, Meta, Cloudflare, Modal y RadixArk. Juntos, buscan crear una infraestructura de software común que permita que los grandes modelos de lenguaje (LLM) y los sistemas de IA multimodal operen con mayor rapidez y compatibilidad entre distintas arquitecturas.

Técnicamente, SGLang se define como un sistema de código abierto especializado en la optimización de la inferencia. La inferencia es la fase crítica donde un modelo que ya ha sido entrenado genera una respuesta, ya sea en formato de texto, imagen u otros resultados. El sistema permite gestionar múltiples solicitudes de forma simultánea, distribuir las cargas de trabajo entre diversos aceleradores y optimizar el uso de la memoria del sistema.

Uno de los pilares técnicos más destacados de SGLang es la implementación de la reutilización de la caché de claves y valores, denominada KV Cache. Esta tecnología evita que el sistema tenga que repetir cálculos cuando diversas solicitudes comparten información, lo que se traduce en una reducción del esfuerzo computacional, tiempos de respuesta más veloces y una mayor capacidad de atención de usuarios utilizando el mismo hardware.

La potencia de esta alianza reside en la diversidad de aportaciones de sus miembros:

  • NVIDIA aporta su dominio en GPUs y la plataforma CUDA.
  • AMD contribuye con sus aceleradores Instinct y el ecosistema ROCm.
  • Intel aporta su experiencia en procesadores y aceleradores diseñados para centros de datos.
  • Google integra sus unidades de procesamiento tensorial (TPU).
  • Meta, Cloudflare y otras firmas aportan su conocimiento en el despliegue de modelos de IA e infraestructuras de procesamiento masivo.

El objetivo final es permitir que las aplicaciones de IA sean agnósticas al hardware, funcionando en cualquier plataforma sin estar encadenadas a un único fabricante. Para lograrlo, el consorcio se enfocará en áreas clave como la ejecución distribuida entre múltiples GPUs, la mejora de los sistemas de razonamiento avanzado y la optimización de modelos multimodales (texto, audio e imagen). Asimismo, se priorizará el desarrollo de arquitecturas Mixture-of-Experts (MoE), que optimizan el rendimiento al activar solo las secciones del modelo necesarias para cada tarea.

Según datos proporcionados por LMSYS, SGLang ya se encuentra implementado en entornos de producción que involucran cientos de miles de GPUs, consolidándose como una pieza fundamental para el futuro de la IA de código abierto.



Fuentes:
https://elchapuzasinformatico.com/2026/11/sglang-consortium/