OpenAI ha desarrollado Jalapeño, un chip ASIC diseñado para mejorar la eficiencia en la inferencia de IA. Aunque actualmente es para uso interno debido a la alta demanda de cómputo de la empresa, OpenAI dejó abierta la posibilidad de lanzarlo al mercado externo en el futuro. El chip es programable y general, demostrando un rendimiento competitivo frente a las soluciones de Nvidia.







Tras la revelación del ASIC Jalapeño de OpenAI,surgió una pregunta clara: ¿para quién es esto? Esto no quiere decir que el acelerador no tenga un propósito, sino que OpenAI no definió claramente cuáles eran sus ambiciones en el espacio del hardware. Por un lado, la empresa sugirió que estaba construyendo ASICs para sus propios fines cuando OpenAI y Broadcom revelaron su asociación el año pasado. Por otro lado, OpenAI presentó comparativas comparando el Jalapeño con los aceleradores Blackwell de Nvidia y reforzó una hoja de ruta multigeneracional en Hot Chips 2026. Jalapeño está diseñado para las necesidades de cómputo de OpenAI, dijo Richard Ho, Jefe de Hardware de OpenAI. Sin embargo, el vicepresidente afirma que "podrías usarlo para cualquiera, honestamente", y dejó la puerta abierta a un despliegue más amplio. Puedes leer la transcripción completa de la entrevista aquí.

“Tenemos una demanda de cómputo tan fuerte dentro de la empresa. Nos llevará un buen tiempo incluso cubrir nuestra propia demanda, que crece todo el tiempo”, dijo Ho. “Creo que estaremos muy ocupados simplemente proporcionando cómputo para OpenAI durante un buen tiempo. Eso no quiere decir que no pueda usarse en otros lugares. Creo que podría, pero pienso que nuestra prioridad es asegurarnos de que las necesidades de cómputo de OpenAI se satisfagan primero y ante todo”.

El posicionamiento competitivo de Jalapeño se reduce principalmente a las comparativas que OpenAI compartió durante Hot Chips, ejecutadas en el benchmark InferenceX de SemiAnalysis y comparando el Jalapeño con el GB200 y GB300 de Nvidia. Los ASICs son comunes, pero el rendimiento competitivo para ellos no lo es, y por una buena razón: están construidos para acelerar cargas de trabajo específicas. Con Jalapeño, sin embargo, OpenAI demostró que el chip acelera su propio modelo GPT-OSS de pesos abiertos, así como DeepSeek R1 y Kimi K2.5.



Originalmente, OpenAI no planeaba mostrar comparativas en Hot Chips, y la empresa no estaba segura de si se presentaría en el evento, nos dijo Ho. El ejecutivo reiteró la historia que OpenAI contó en el escenario de Hot Chips, sobre cómo un equipo de ingenieros logró poner en funcionamiento Kimi y DeepSeek en Jalapeño en los dos meses transcurridos entre la muestra A0 y la presentación en Hot Chips.


Aunque Ho fue claro en que Jalapeño se está desplegando internamente y seguirá siendo interno por el momento, ciertamente dejó la puerta abierta a una entrada más amplia en el mercado del hardware. Hablando sobre las comparativas mostradas en Hot Chips, Ho dijo: “Lo que realmente queríamos demostrar, para desmentir la percepción errónea en la industria de que nuestro chip de inferencia personalizado era solo para modelos de OpenAI… Es programable, es de propósito general y no está codificado solo para modelos de OpenAI”.


Una posible explicación para la reticencia a entrar en el mercado de hardware externo es el suministro. Ho dijo que “hay una nueva línea base para el suministro”, refiriéndose a los últimos dos años en los que Ho y el CEO de OpenAI, Sam Altman, visitaron fábricas pidiendo más capacidad. Aunque Ho dice que “[OpenAI está] en buena forma” en cuanto al suministro interno, el suministro para alimentar a clientes externos es probablemente una historia diferente.

Jalapeño funciona para otros modelos, pero el rendimiento competitivo puro no fue el objetivo principal del diseño. Cuando pregunté sobre la fuerza impulsora detrás del diseño de Jalapeño, Ho fue directo: “Fue la eficiencia”. El ejecutivo señaló la eficiencia como una prima del cómputo, destacando el centro de datos de IA moderno con restricciones de energía y cómo un motor de inferencia más eficiente representa un cómputo más efectivo.


Ho también señaló esa misma toma de decisiones pragmática como motor detrás del diseño de Jalapeño, notablemente en torno al codiseño con los modelos internos de OpenAI. “[El codiseño es] algo que no puedes hacer muy bien con un proveedor de silicio externo porque hay mucha propiedad intelectual de investigación en los modelos, y simplemente no puedes compartir eso ampliamente porque se filtraría. Saldría a la luz sin importar cuántos acuerdos de confidencialidad (NDA) implementes”.

Si Jalapeño estuviera destinado a un despliegue más amplio, no competiría contra la plataforma Grace Blackwell de Nvidia, sino contra la nueva plataforma Vera Rubin. Ho dijo que la comparación contra Blackwell fue “porque esos eran los mejores resultados publicados que pudimos encontrar”. Sin embargo, la empresa ha ejecutado más comparativas internamente, tanto contra Vera Rubin como para ventanas de contexto más grandes.

Las comparativas de InferenceX solo analizaron benchmarks de 8k1k, que representan 8,000 tokens de entrada fijos y 1,000 tokens de salida. Ho dijo que las comparativas internas de OpenAI muestran que el ASIC “parece funcionar incluso mejor que las comparativas existentes de algunos de los otros dispositivos disponibles”. Más interesante es la comparación con Vera Rubin, que según OpenAI, se ve bien.

“Obviamente, para cuando lo despleguemos, será [Vera Rubin], tal vez incluso VR Ultra en algunas partes del calendario de despliegue. Hemos hecho los nuestros internos, pero obviamente no los publicamos. Esos tienen que venir de Nvidia y otras personas que puedan hacerlo… sí, nos está yendo muy bien en esos”, dijo Ho.


Fuente:
TomsHardware