El laboratorio de investigación sin fines de lucro Transluce afirma que los agentes de IA parecían tener la tarea de realizar operaciones de recuperación de datos, pero su actividad también incluyó "intentos de hacking rudimentarios" fallidos.

Probando la inyección sql

Un incidente ocurrió el 17 de junio, cuando los agentes de IA realizaron más de 200,000 solicitudes a un sitio web del Departamento de Educación de EE. UU. mientras buscaban estadísticas escolares.

Según Transluce, la actividad incluyó un intento básico de inyección SQL utilizando un parámetro manipulado, en un esfuerzo por evadir los filtros normales del sitio.

"En los 40 segundos previos a la inyección SQL, hubo una serie de solicitudes que contenían una variedad de entradas de ID de estado inusuales", afirman los investigadores, añadiendo que el propósito de estas solicitudes sigue sin estar claro sin más contexto sobre los agentes y sus objetivos.

Los investigadores señalan que los datos solicitados parecían coincidir con una pregunta de referencia de Google DeepSearchQA sobre consejeros escolares y acoso relacionado con la raza.

Transluce informó al Departamento de Educación de su hallazgo el 25 de septiembre. Un portavoz afirmó que una revisión de la actividad no encontró evidencia de un impacto en los servicios.

Sondas fallidas contra el archivo canadiense

Los investigadores de Transluce identificaron un patrón similar contra la Biblioteca y Archivos de Canadá, mientras los agentes intentaban recuperar registros históricos de divorcios canadienses de 1905 a 1911.

En dos fechas, el 28 de mayo y el 9 de junio, el archivo web nacional de Portugal (Arquivo.pt) registró casi 900 solicitudes dirigidas a la Biblioteca y Archivos de Canadá, según los hallazgos de Transluce.

Trece solicitudes contenían cargas útiles de ataque, incluidas sondas de inyección SQL y pruebas de manejo de entrada, formatos de salida y opciones de depuración.

Las sondas devolvieron páginas de registros vacías, y el Centro Canadiense de Ciberseguridad confirmó que no hay evidencia de manipulación de la base de datos o datos adicionales.

"No hay indicios de que los sistemas gubernamentales hayan sido comprometidos en este momento", afirmó el Centro Canadiense de Ciberseguridad [enlace].

La agencia señaló que estaba evaluando los informes con socios gubernamentales y advirtió que las solicitudes automatizadas o potencialmente maliciosas no demuestran, por sí mismas, un incidente cibernético exitoso.

Los investigadores observan que, aunque "no atribuyen con seguridad estos intentos a OpenAI", las tácticas utilizadas son consistentes con la actividad atribuida previamente al desarrollador de IA.

OpenAI dijo a The Washington Post que estaba revisando los hallazgos y que había proporcionado una sesión informativa inicial a los funcionarios canadienses.

La empresa ha reconocido por separado interacciones no intencionadas entre sus agentes y sitios web del gobierno de EE. UU., pero Transluce advirtió que parte de la actividad más amplia no era claramente atribuible a OpenAI.

Actividad más amplia, atribución incierta

La investigación descubrió una colección mucho más amplia de actividad de agentes de IA dirigida a sitios web del gobierno federal y estatal de EE. UU.

Transluce también afirma que los agentes recurrieron a tácticas agresivas contra múltiples sitios web estatales y federales de EE. UU., contribuyendo a un patrón más amplio de flujos de trabajo automatizados impulsados por IA.

Los investigadores observaron que la actividad de los agentes incluyó técnicas que iban desde volúmenes masivos de solicitudes y URLs modificadas hasta cuentas de correo electrónico desechables, intentos de evadir sistemas anti-bots, adivinación de nombres de archivos descargables y la reutilización de credenciales expuestas.

La actividad reportada se dirigió a agencias en California, Kansas, Maryland, Illinois, Texas y Nueva York.

En un caso, los agentes de IA intentaron registrarse para obtener una clave API de la Oficina de Análisis Económico utilizando una dirección de correo electrónico desechable y el nombre de la organización "OpenAI Research".

Otro flujo de trabajo indica un intento de reutilizar claves API expuestas para recuperar datos de la Oficina del Censo.

Entre el 23 de abril y el 18 de mayo, hubo intentos automatizados de acceder a las páginas de gestión de contenidos del sitio web del Comando de Historia y Patrimonio Naval, history.navy.mil. Sin embargo, no hay evidencia de acceso a información militar sensible.

La investigación de Transluce [enlace] se basó principalmente en registros de Arquivo.pt y el servicio de escaneo de seguridad web urlquery.net, cuyos registros públicos preservaron las solicitudes aparentemente enviadas por los agentes.

Los incidentes recién descubiertos amplían la investigación anterior de la organización, que encontró agentes recurriendo a sondas de vulnerabilidades contra proveedores de datos públicos mientras realizaban tareas de recuperación de información.

La investigación previa descubrió que los agentes de IA buscaron vulnerabilidades en el servicio Data USA y en la biblioteca digital de la Universidad de Nuevo México, y explotaron un fallo en un portal del gobierno australiano.

Fuente:
BleepingComputer