La startup de ciberseguridad Cathedral reveló que sus agentes de IA lograron encontrar rutas de acceso a los sistemas internos de Anthropic en menos de 12 horas. Este ejercicio, realizado bajo el programa de investigadores externos de Anthropic, demuestra la extrema rapidez con la que las herramientas automatizadas pueden detectar y encadenar vulnerabilidades en servicios conectados.

La startup de ciberseguridad Cathedral afirma que sus agentes de IA encontraron rutas hacia los sistemas internos de negocio de Anthropic en menos de 12 horas, exponiendo lo rápido que las herramientas de seguridad automatizadas pueden encontrar y encadenar fallos en servicios conectados.

El trabajo se llevó a cabo a través del programa de Anthropic para investigadores externos, lo que convierte esto en una prueba de seguridad autorizada en lugar de un ataque criminal, según The Washington Post.

Brecha en el Sistema Interno de Anthropic

Según un informe de The Washington Post, los agentes no vulneraron los modelos de IA principales de Anthropic ni explotaron el código propio de la empresa. En su lugar, Cathedral dijo que utilizaron debilidades en software de terceros no especificado, utilizado para tareas administrativas y de ventas.

Una vez dentro, los investigadores accedieron a transcripciones de reuniones, detalles de salarios y ofertas de empleo, así como a conversaciones internas de Slack sobre los modelos de IA avanzados de Anthropic.

Anthropic confirmó en un comunicado a The Washington Post que Cathedral accedió a un grupo limitado de sistemas de ventas, recursos humanos y TI. Dichos sistemas contenían información de contacto comercial de algunos clientes y socios, junto con registros básicos de cuentas de usuario.

Sin embargo, no se accedió a los prompts de los clientes, a las respuestas de Claude, al código fuente ni a los pesos del modelo. Este límite es importante porque los pesos del modelo y el código fuente se encuentran entre los activos más sensibles de una empresa de IA.

Anthropic también señaló que sus herramientas de monitoreo detectaron algunas de las acciones de Cathedral antes de que la startup las reportara. La empresa finalizó el acceso el mismo día, desactivó el software de negocio afectado y lo restauró solo después de que los proveedores confirmaran que las correcciones estaban listas.

Anthropic afirmó que no encontró pruebas de que alguien ajeno a Cathedral hubiera utilizado las debilidades. Ambas partes discrepan en algunas partes de la prueba. Anthropic dijo que Cathedral no siguió plenamente sus reglas de recompensas por errores (bug bounty) porque no reveló toda la actividad dentro de los sistemas de la empresa.

Cathedral dijo que mantuvo el acceso a los datos al mínimo necesario para una investigación responsable. Los proveedores del software afectado también fueron notificados, pero sus nombres y los fallos exactos se mantuvieron en reserva para reducir el riesgo de mal uso.

El caso demuestra por qué la seguridad de las aplicaciones de terceros es ahora una preocupación mayor para los laboratorios de IA. Una empresa puede proteger la infraestructura del modelo mientras que las herramientas conectadas de RR. HH., ventas, identidad y colaboración crean otras rutas hacia datos comerciales sensibles.

Tú, como parte de un equipo de seguridad, deberías mapear cada conexión de software, limitar los permisos de las aplicaciones, revisar los tokens de OAuth, monitorear el comportamiento inusual de las cuentas y eliminar rápidamente el acceso que ya no sea necesario.

También muestra cómo los agentes de IA pueden comprimir las pruebas de seguridad. Los agentes pueden escanear sistemas, probar rutas, ejecutar herramientas y revisar resultados con menos tiempo de espera entre pasos.

Anteriormente se ha informado sobre cómo los agentes de IA pueden automatizar la cadena de ataque cibernético y cómo Claude explotó fallos de software durante evaluaciones controladas. Estos casos no significan que los humanos hayan sido eliminados. Los investigadores siguen definiendo el alcance, juzgando los hallazgos y controlando la divulgación.

Cathedral tiene solo unos meses de vida, pero ha ganado atención. La empresa fue cofundada por Gavin Kliger, Luke Farritor, Marko Elez y Jack Stein, todos ellos antiguos empleados de DOGE. Kliger se desempeñó como director de datos del Pentágono.

Reuters informó en julio que Cathedral recaudó 160 millones de dólares con una valoración de 1.400 millones de dólares, con Andreessen Horowitz y Sequoia Capital liderando la ronda. Un alto funcionario de la administración Trump dijo a The Washington Post que tres agencias federales habían contratado a Cathedral y que el gobierno estaba trabajando con la startup en escenarios de IA hostil.