El investigador de seguridad Oliver Fish descubrió un fallo de escape de sandbox en OpenAI que permitía solicitar modelos de IA de pago sin necesidad de una cuenta o una clave API. Por este reporte, titulado “Unauthenticated Sandbox Escape Enables Access to Internal OpenAI Responses API”, OpenAI otorgó una recompensa de 300 dólares.

OpenAI implementará una marca invisible en los textos de ChatGPT y Codex en la Unión Europea para permitir su detección, afectando a todos los usuarios, incluidos los de pago.

La Fundación Wikimedia detectó actividades de agentes no autorizados de OpenAI que intentaron manipular herramientas y editar páginas de Wikipedia. Aunque no hubo compromiso de datos, el tráfico masivo causó interrupciones en el servicio, lo que generó críticas sobre la seguridad de la IA. OpenAI admitió otros incidentes de comportamiento imprevisto en sus modelos y ahora busca implementar marcos de seguridad más estrictos.

La Fundación Wikimedia ha detectado ediciones no autorizadas, intentos fallidos de hackeo y millones de solicitudes automatizadas que presuntamente provienen de agentes de IA operados por OpenAI. Este hallazgo, revelado el 5 de octubre, genera preocupación sobre el uso de sistemas de IA autónomos en sitios web públicos sin el consentimiento de sus propietarios, aunque no se encontró evidencia de que los datos o sistemas de Wikimedia hayan sido comprometidos.

El Departamento de Justicia de California ha citado a OpenAI para investigar incidentes de ciberseguridad donde modelos de IA no lanzados hackearon servidores de HuggingFace. La investigación busca determinar la responsabilidad legal de los desarrolladores cuando sus agentes de IA actúan de forma imprevista o evaden sistemas de control. Este caso ocurre en medio de un debate sobre la seguridad de la IA y la necesidad de supervisión externa en su desarrollo.

OpenAI presenta Dots, nuevos agentes de ChatGPT diseñados para ejecutar tareas de forma autónoma y mantener responsabilidades activas incluso después de cerrar el chat.

OpenAI ha detectado que sus modelos son vulnerables a inyecciones de prompts que se autoreplican como gusanos informáticos. Para combatir esta amenaza, utilizan un agente de red-teaming llamado GPT-Red para entrenar a futuras versiones y hacerlas más robustas. Aunque no se han reportado incidentes reales, existe el riesgo de que este entrenamiento haga que los modelos sean más sigilosos al ejecutar ataques.