Cada vez que hablamos de IA, es inevitable no mencionar a OpenAI como una de las empresas más importantes del sector, pues esta es la creadora de ChatGPT, el chatbot de inteligencia artificial más popular del mundo con diferencia. Incluso aquellas personas que no saben prácticamente nada de IA reconocen a ChatGPT y el icono que forma este, pues hay cientos de millones de personas que lo usan y no importa el rango de edad, pues tiene clientes jóvenes y viejos. Todos estos se benefician de la IA de una u otra forma y OpenAI quiere protegerlos, así que ha adquirido Promptfoo, una plataforma de seguridad permitirá ofrecer mayor protección para sus agentes de IA

OpenAI comenzó como una startup totalmente desconocida que tenía como objetivo crear un chatbot con un modelo de inteligencia artificial generativa usando un LLM de gran tamaño. Lo curioso es que esto era un proyecto a modo de prototipo que no sabían si iba a tener éxito, pero al final esos años de desarrollo dieron sus frutos. OpenAI fue fundada por Sam Altman y el mismísimo Elon Musk en 2015 con ese objetivo y el primer gran avance fue la arquitectura Transformer en 2017.o sería hasta GPT-1 en 2018 cuando consiguieron el primer modelo de IA generativa bajo la nomenclatura que todos conocemos.

OpenAI compra Promptfoo por 18,4 millones de dólares para integrarlo en su plataforma de agentes IA Frontier

GPT-2 llegó en 2019 y GPT-3 en 2020 seguido de GPT-3.5 en 2022 en el que se basó ChatGPT y a partir de ahí, ya todos conocemos la historia. OpenAI continuó lanzando nuevos modelos de IA cada vez más complejos, avanzados y precisos. Tuvimos GPT-4, GPT-5 y actualmente estamos en GPT-5.4 Thinking como el más avanzado, además de variantes como GPT-o1 y otros. OpenAI está por todas partes y recientemente vimos que cerró un acuerdo con el Pentágono para ser de utilidad para el ejército, algo que provocó cancelaciones de suscripción y hasta la dimisión de la directora. No es el mejor momento para OpenAI de hablar de seguridad, pero justo ha comprado Promptfoo por 18,4 millones de dólares para mejorarla.

La idea detrás de la compra es poder implementar esta tecnología de seguridad de Promptfoo en la propia plataforma de OpenAI llamada Frontier, donde disponen de agentes de IA. Esta integración ofrecerá tres funciones principales, empezando por permitir realizar pruebas de seguridad y protección automatizadas dentro de la plataforma, lo que permitirá a las empresas identificar y ver soluciones a brechas de seguridad y fugas de datos.

La segunda función es la de integrar un sistema de evaluación para investigar y encontrar riesgos de seguridad en los agentes de IA de forma más rápida. Por último, ofrecerá un sistema de supervisión y responsabilidad con informes y trazabilidad para ayudar a las empresas a detectar y analizar todo el proceso asegurándose que es correcto.

Promptfoo seguirá operando como una plataforma Open Source con servicios de ayuda a empresas

Promptfoo es considerada como una plataforma que cuenta con herramientas Open Source encargadas de probar, evaluar y asegurar aplicaciones que usan LLM, es decir, los modelos de lenguaje que usan las IA generativas. La compañía se fundó hace solo dos años y ha creado herramientas de código abierto para IA y además ofrece ayuda a empresas para buscar vulnerabilidades en sus modelos de inteligencia artificial con "red-teaming".

Con esta adquisición ya realizada, Promptfoo no ha desaparecido y seguirá operando como una plataforma/servicio Open Source a pesar de formar parte de OpenAI y sus agentes. Estos agentes de IA se han convertido en la prioridad de muchas empresas. Esto se debe a que se consideran una mejora sobre los modelos de IA convencionales, sobre todo en el ámbito laboral.

Pueden hacer varias tareas y servir como asistentes, pero su principal ventaja es que tienen la capacidad de funcionar de forma autónoma. Esto es lo que les da la utilidad en una empresa, pues si ya temíamos ser reemplazados por un modelo de IA como los que hay, con los agentes es aún peor, ya que les ordenas y estos hacen el trabajo.