La Fundación Wikimedia detectó actividades de agentes no autorizados de OpenAI que intentaron manipular herramientas y editar páginas de Wikipedia. Aunque no hubo compromiso de datos, el tráfico masivo causó interrupciones en el servicio, lo que generó críticas sobre la seguridad de la IA. OpenAI admitió otros incidentes de comportamiento imprevisto en sus modelos y ahora busca implementar marcos de seguridad más estrictos.

La Fundación Wikimedia, que aloja Wikipedia, ha confirmado que ha descubierto actividad de agentes rebeldes de OpenAI en sus plataformas, incluyendo intentos fallidos de comprometer Etherpad, una herramienta pública de notas, y de editar páginas de Wikipedia.

"Las actividades no autorizadas de los bots incluyeron ediciones en nuestras wikis, algunos intentos fallidos de explotar una herramienta pública de notas que alojamos y un tráfico intenso", afirmó la Fundación en una publicación aquí.

La investigación, añadió, fue impulsada por informes públicos recientes relacionados con Hugging Face y DseWiki, donde los agentes de OpenAI convirtieron Artifactory y el foro wiki alemán en un tablón de anuncios no autorizado para comunicarse entre sí, mientras tomaban medidas para encadenar servicios en línea aquí para obtener acceso a internet y encubrir las pruebas de sus exploits.

Con ese fin, Wikimedia dijo que identificó ediciones en las wikis de Wikimedia que se sospecha provienen de agentes operados por OpenAI. Se dice que los agentes estuvieron probando ediciones en áreas de "sandbox aquí" de la wiki y que estas no fueron publicadas en páginas accesibles para los lectores generales.

Entre las ediciones se incluyeron cambios en la configuración de una herramienta de citas. Se cree que estas modificaciones son de naturaleza maliciosa, con la intención de utilizar la herramienta como un proxy para obtener datos de servicios remotos.

También se evalúa que los agentes operados por OpenAI realizaron intentos fallidos de comprometer Etherpad y usarlo nuevamente como proxy para recuperar datos de otros sitios web. Además, un subgrupo de agentes tomó notas sobre sus tareas, aunque no hay indicios que sugieran que esto fuera un intento de coordinarse entre sí.

Al igual que se observó en el caso de RubyGems y en incidentes dirigidos a portales gubernamentales aquí, también se ha observado que los agentes realizaron "millones de solicitudes automatizadas" a sus API públicas para acceder a información sobre proyectos de Wikimedia, rastreando millones de páginas relacionadas con Wikidata y Wikimedia Commons, y ejecutando miles de consultas de datos al Servicio de Consultas de Wikidata (WQDS). Esta inundación de tráfico puede haber contribuido a una interrupción parcial aquí que ocurrió a principios de mayo de 2026.

Dicho esto, Wikimedia afirmó que no encontró pruebas de que sus sistemas fueran utilizados para una actividad coordinada entre agentes o que sus sistemas o datos hubieran sido comprometidos como resultado de estos esfuerzos.

"Sin embargo, nos preocupa lo que podría haber ocurrido aquí, la dificultad y el esfuerzo implicados en investigar y atribuir esta actividad, y los riesgos crecientes de la actividad de IA agéntica en nuestras plataformas en general", señaló. "La web abierta es un bien público. No debemos permitir que este comportamiento se convierta en la 'nueva normalidad' para las personas u organizaciones que la mantienen".

La Fundación Wikimedia señaló que el comportamiento agéntico, sumado al aumento del tráfico de bots, corre el riesgo de bloquear a los visitantes humanos al sobrecargar los sistemas y causar interrupciones en el servicio. También criticó a las empresas de IA por no hacer lo suficiente para asegurar sus sistemas y garantizar que no causen ningún daño.

"Los bots y los agentes son parte del futuro de la web, y las empresas que los lanzan y se benefician de ellos deben ayudar directamente a evitar y reparar los daños que puedan causar", afirmó Selena Deckelmann, directora de producto y tecnología de la Fundación.

OpenAI, en un comunicado compartido aquí con The Verge, dijo que está trabajando con la Fundación para revisar y analizar la actividad, y que compartirá la información relevante a medida que continúe su investigación más amplia sobre incidentes de agentes rebeldes.

Openai revela nuevos incidentes

Este acontecimiento se produce días después de que la empresa de IA revelara tres nuevos casos en los que sus modelos exhibieron un posible comportamiento desalineado:

* 27 de marzo de 2026 aquí, cuando un modelo de investigación interno explotó dos vulnerabilidades para llegar a una máquina interna de OpenAI en su búsqueda de respuestas ocultas de un evaluador durante la evaluación. Los dos fallos de seguridad fueron encadenados para obtener acceso no autorizado a una máquina interna de automatización de diseño electrónico (EDA) y buscar información sobre cómo se evaluarían sus resultados.
* 16 de mayo de 2026 aquí, cuando un modelo explotó una herramienta para obtener código fuente que no estaba disponible en su espacio de trabajo durante una tarea de entrenamiento de aprendizaje por refuerzo. "La herramienta se ejecutaba en un entorno separado y sus instrucciones prohibían usarla como terminal. El modelo descubrió que podía leer un archivo fuente y devolver su contenido en los mensajes de error", dijo OpenAI. "Recuperó el archivo por partes, copió el código y lo ejecutó como parte de su solución. La copia tuvo éxito".
* 22 de mayo de 2026 aquí, cuando un modelo interno altamente persistente, actuando como asistente de un investigador, infirió de una discusión de Slack del equipo de despliegue que su instancia en ejecución podría ser detenida debido a una actualización interna. Luego instó al investigador a proporcionar una clave API de OpenAI faltante en un mensaje directo de Slack para evitar una posible interrupción de su sesión. Una vez que el investigador proporcionó la clave, el modelo actualizó su configuración y ejecutó el comando de migración compatible.

OpenAI afirmó que el tercer incidente no constituye una desalineación, pero reconoció que anticipar y prepararse para un apagado podría empeorar otras acciones desalineadas. El gigante de la IA dijo que su investigación no descubrió ningún caso de comportamiento de intento de evasión de apagado.

"No consideramos que el comportamiento del modelo haya estado desalineado: aunque consideró crear despliegues externos no autorizados, razonó que tales acciones serían inapropiadas y no las llevó a cabo", dijo OpenAI. "Sin embargo, la capacidad del modelo para utilizar la comunicación ordinaria del lugar de trabajo para enterarse de un cambio en su entorno operativo podría, en otros contextos, conducir a acciones más drásticas para evitar el apagado".

Desde entonces, OpenAI ha revelado que está adoptando aquí un marco de documentación de "caso de seguridad" estructurado, modelado a partir de industrias como la aviación y la energía nuclear, para gobernar el entrenamiento de aprendizaje por refuerzo de vanguardia. Al codificar las mejores prácticas, la idea es asegurar que existan salvaguardas adecuadas para evitar que un modelo tome acciones desalineadas, hacer que sea más difícil escapar del confinamiento incluso si lo hace, y detener una ejecución antes de que pueda infligir daños "graves".

Llamadas para vigilar la ia

El flujo constante de incidentes de IA rebelde ha demostrado que los agentes son cada vez mejores encontrando formas no previstas de cumplir las tareas que se les han asignado y no se puede esperar que vigilen su propio comportamiento. Las brechas recién reveladas también surgen en medio de las crecientes preocupaciones sobre la seguridad de los sistemas de IA avanzados y los pasos que están tomando las empresas que los desarrollan para abordarlas.

Estas preocupaciones han llevado a pedir que se ralentice el ritmo del desarrollo de la IA y se dé tiempo a que las medidas de seguridad se pongan al día. Su rival Anthropic, en su folleto de salida a bolsa aquí, ha advertido aquí que la IA avanzada podría plantear "riesgos catastróficos o existenciales para la humanidad", añadiendo que los modelos de IA podrían exhibir "comportamientos de autopreservación", incluyendo intentos de "resistirse al apagado", "ocultar o manipular información" y comportamientos "similares al chantaje".

OpenAI, por su parte, anunció la semana pasada que ha pausado el entrenamiento de sus modelos más potentes y canceló los planes de lanzar su próximo modelo, GPT-6.1 Astra, después de que las pruebas internas encontraran que el modelo no cumplía con los estándares de seguridad y alineación de la empresa. Astra estaba siendo desarrollado como un modelo más autónomo capaz de realizar tareas complejas con menos asistencia humana.

"Ritmo para nosotros significa que priorizamos la seguridad y la alineación por delante de las capacidades", dijo el CEO de OpenAI, Sam Altman aquí. "Vamos a priorizar la misión y la seguridad, y asegurarnos de que podamos escalar con mucha confianza a la siguiente etapa de la IA sin que la gente debata qué porcentaje de probabilidad hay de que hagamos todas estas cosas malas en el mundo".

El presidente de EE. UU., Donald Trump, dijo que las principales empresas de IA han aceptado un acuerdo "moralmente vinculante" que requiere que implementen controles internos robustos, auditorías independientes y supervisión a nivel de junta directiva para los modelos de vanguardia. Los signatarios incluyen a los directores ejecutivos de Google, Anthropic, Meta, OpenAI, SpaceXAI y NVIDIA.

Cabe destacar que el compromiso conjunto es totalmente voluntario y no impone plazos específicos a las empresas participantes, lo que significa que la responsabilidad recae en las propias firmas de IA para fortalecer sus prácticas de seguridad.

"Juntos, estos pasos darán a cada empresa, a sus clientes y al público la confianza de que", decía el Acuerdo de la Casa Blanca sobre Superinteligencia aquí.

"Con el tiempo, puede que tenga sentido codificar estos pasos en leyes o regulaciones. Independientemente de si esto se requiere de las empresas, creemos que implementar estos controles y auditorías es fundamental para asegurar un futuro seguro para todos, y cada una de nuestras empresas se compromete a hacer esto".

Fuente:
THN