WorkOS sufrió una filtración de datos de clientes debido a un agente de IA del framework ARTEX que, según un investigador de seguridad, escapó accidentalmente de su entorno de prueba. El agente aprovechó credenciales débiles y fallos de seguridad en una aplicación de ventas antigua para extraer información. El responsable afirmó haber borrado los datos, y la empresa ya ha tomado medidas para corregir las vulnerabilidades.





WorkOS afirma que un agente de hacking impulsado por IA que vulneró su aplicación interna de ventas y accedió a información de clientes fue operado por un investigador de seguridad, quien afirma que la herramienta escapó de su entorno de pruebas y atacó a la empresa involuntariamente.

La plataforma de desarrolladores reveló la brecha a principios de esta semana, señalando que un atacante utilizó el marco de seguridad ofensiva ARTEX AI para automatizar el reconocimiento y los intentos de explotación contra sus sistemas.

Sin embargo, en una nueva actualización de seguridad publicada el viernes, el fundador de WorkOS, Michael Grinich, reveló que la persona responsable se había puesto en contacto y afirmó que el incidente fue accidental.


"Poco después de nuestro boletín original, un investigador de seguridad nos contactó y asumió la responsabilidad", dijo Grinich en una publicación en X [enlace].

"Nos dijeron que estaban evaluando ARTEX, un marco de pruebas de penetración autónomo, cuando su agente escapó de su entorno de pruebas aislado e interactuó con WorkOS involuntariamente".

Según se informa, el investigador estaba realizando evaluaciones de referencia de ciberseguridad utilizando ARTEX cuando el agente operó fuera de su entorno previsto y comenzó a interactuar con los sistemas de WorkOS.

WorkOS afirma que su equipo de seguridad y un investigador forense independiente compararon los detalles de las solicitudes, las marcas de tiempo y otros artefactos técnicos proporcionados por el investigador con los registros de la empresa, confirmando con alta confianza que el individuo era responsable de la actividad no autorizada.

El investigador también confirmó que todos los datos de WorkOS obtenidos por el agente habían sido eliminados y no fueron compartidos con nadie más.

Si bien WorkOS ha confirmado la responsabilidad del investigador por la intrusión, ni la empresa ni el investigador han proporcionado públicamente detalles sobre cómo el agente escapó de su entorno de pruebas.

WorkOS afirma que la investigación también identificó cuatro debilidades de seguridad que permitieron al agente autónomo acceder a su aplicación interna de ventas y extraer información de clientes.

La aplicación afectada se ejecutaba en una plataforma de herramientas internas heredada que carecía de las protecciones de seguridad utilizadas en los sistemas más nuevos de la empresa.

Según WorkOS, unos controles de acceso permisivos dejaron los puntos finales de la API de la aplicación expuestos a Internet, permitiendo que el agente los descubriera e interactuara con ellos.

La API también aceptaba una credencial predecible destinada al desarrollo local que, por error, se había dejado desplegada en producción. Esto permitió al agente autenticarse tras descubrir el punto final expuesto.

Una vez autenticado, el agente abusó de la falta de limitación de tasa (rate limiting) para recuperar rápidamente registros de la aplicación expuesta.

WorkOS afirma que el primer acceso no autorizado confirmado ocurrió el 25 de octubre, pero la actividad permaneció indetectada hasta el 30 de octubre, después de que el agente hubiera completado la descarga de los registros de los clientes.

La empresa descubrió el incidente cuando un empleado notó un uso inusualmente alto de un sistema conectado a la aplicación afectada.

La información expuesta incluyó detalles de contacto comercial, historiales de cuentas de clientes, información de uso de productos y resúmenes o extractos de llamadas de ventas, discusiones de soporte y conversaciones de Slack de clientes.

Un número limitado de comunicaciones de soporte también contenía direcciones de correo electrónico de usuarios finales.

WorkOS afirma que su investigación, validada por una firma forense independiente, determinó que el incidente se limitó a los datos almacenados en sus sistemas de ventas y de soporte al cliente.

La empresa señaló que también había comenzado a probar regularmente sus propios sistemas orientados a Internet utilizando ARTEX el 3 de noviembre, el mismo marco de pruebas de penetración de IA implicado en el incidente.

ARTEX es un marco de seguridad ofensiva impulsado por IA vinculado previamente a ciberataques contra bancos surcoreanos y el Instituto Holandés para la Divulgación de Vulnerabilidades (DIVD).

Más recientemente, CrowdStrike informó que el grupo de ciberespionaje chino Vapor Panda utilizó el marco en una campaña dirigida a aproximadamente 200 organizaciones.

Aunque el investigador afirma que el incidente de WorkOS fue involuntario, la brecha es otra demostración de cómo la IA está siendo utilizada para realizar ataques autónomos, incluso cuando dichos ataques son involuntarios.

Fuente:
BleepingComputer