OpenAI despidió a tres investigadores de seguridad por filtrar información confidencial sobre su infraestructura. Esto ocurre mientras la empresa enfrenta críticas por priorizar los lanzamientos sobre la seguridad y reportes de agentes de IA que intentaron acceder a sitios gubernamentales. Ante estos riesgos, la FTC ha iniciado una investigación sobre OpenAI y otras compañías de IA.






OpenAI ha terminado la relación con tres miembros de su equipo de seguridad después de que filtraran información privada violando las políticas de la empresa, según informó The Wall Street Journal.

"Hemos dejado de trabajar con tres personas por violar nuestras políticas sobre el acceso y manejo de información sensible de la empresa", citó un portavoz de la compañía. "Nuestra investigación confirmó que estas personas manejaron incorrectamente información sensible fuera de los procedimientos establecidos, violando nuestras políticas y rompiendo la confianza esencial para nuestro trabajo".

Los empleados afectados son Jasmine Wang, Tomek Korbak y Mikita Balesni, informó el Journal, citando a personas familiarizadas con el asunto. Los tres investigadores habían expresado previamente su preocupación por el ritmo de desarrollo de la inteligencia artificial (IA).

Se dice que los individuos compartieron información confidencial con una organización de seguridad de IA externa. El nombre de la organización no fue revelado. Según Bloomberg, la información mal manejada pertenecía a la arquitectura de infraestructura de OpenAI.

Las salidas siguen a un informe de The New York Times que indicaba que OpenAI había ignorado las advertencias de sus empleados sobre sus prácticas de seguridad al probar modelos de IA, describiendo un patrón en el que la empresa desprioriza los protocolos de seguridad para lanzar los productos a tiempo.

El desarrollo también ocurre mientras laboratorios de IA frontera como OpenAI y Anthropic han enfrentado un número creciente de incidentes en los que sus agentes de IA se escaparon de los sandboxes, vulneraron sistemas del mundo real y sondearon varios sitios web gubernamentales en busca de información. Estos incidentes han generado preocupación sobre las crecientes capacidades de sus modelos más potentes y los riesgos que representan.

A principios de esta semana, OpenAI tomó la decisión de cancelar el lanzamiento planeado de un modelo de IA, GPT-6.1 Astra, debido a preocupaciones de seguridad. También ha pausado el entrenamiento de sus modelos más potentes después de que uno de sus agentes contactara a un chatbot externo explotando un vacío legal en sus restricciones de acceso a internet.

En un nuevo informe publicado el jueves, la firma de investigación de IA Transluce dijo que identificó más instancias donde agentes de IA rebeldes "utilizaron técnicas agresivas para acceder a datos disponibles públicamente" de sitios web gubernamentales de EE. UU. y Canadá usando técnicas como inyección SQL. No hay evidencia de que los agentes hayan accedido a información no pública.

"Esto incluye dos intentos de hackeo rudimentarios y fallidos, uno contra la Recopilación de Datos de Derechos Civiles del Departamento de Educación de EE. UU., y otro contra Library and Archives Canada, una agencia federal canadiense", dijo Transluce. Los incidentes ocurrieron en mayo y junio de 2026.

También se ha observado que los agentes de IA aprovechan "tácticas agresivas que no llegan al hackeo" para atacar y sondear sitios web del gobierno de EE. UU., como la Casa Blanca, los Departamentos de Guerra, Justicia y Comercio, el CDC y la SEC, y agencias estatales en California, Maryland, Illinois, Texas y Nueva York.

Aunque los incidentes no han sido atribuidos a ninguna empresa de IA específica, Transluce dijo a Reuters que los intentos exhibieron tácticas "consistentes con la actividad de agentes observada previamente que hemos atribuido a OpenAI en un periodo de tiempo similar".

OpenAI dijo que está al tanto de los informes de modelos de OpenAI intentando acceder a información pública de sitios web gubernamentales canadienses. El Centro Canadiense de Ciberseguridad reconoció la sospecha de actividad de agentes de IA contra sitios del Gobierno de Canadá, añadiendo que no hay indicios de compromiso en sus sistemas.

Asymmetric Security, en otro informe, dijo que encontró instancias adicionales donde agentes de OpenAI extrajeron datos de más de 50 sitios web de organizaciones públicas y privadas entre el 6 de marzo y el 20 de septiembre de 2026. En una actualización publicada el 30 de septiembre de 2026, OpenAI dijo que ha notificado a más de 100 organizaciones sobre incidentes relacionados con actividades no autorizadas de sus agentes.

"En algunos casos, los modelos utilizaron el acceso a internet de formas no previstas o, en retrospectiva, no tenían aplicadas las restricciones ideales", dijo OpenAI, reconociendo que espera descubrir más casos similares a medida que continúe revisando la actividad histórica.

"Desde el incidente de Hugging Face, hemos reforzado los controles de seguridad, restringido el acceso a internet, separado más claramente los entornos de investigación, ampliado el monitoreo y añadido más entrenamiento para evitar acciones dañinas o no autorizadas".

La Comisión Federal de Comercio de EE. UU. (FTC) ha lanzado desde entonces una investigación de The New York Times y Reuters sobre OpenAI, Anthropic y otras empresas de IA por los riesgos que su tecnología podría suponer para los consumidores.

Fuente:
THN