La inteligencia artificial nos ha permitido aumentar la productividad si la vemos desde el punto de vista de que puede acatar órdenes y crear el contenido que le pedimos. Ahora bien, los resultados no siempre serán lo que buscamos y además, todo lo que compartimos a los modelos de IA acaba siendo para ellos, así que no hay privacidad como tal. Si a esto le sumamos los problemas de seguridad que plantean, como el reciente caso de una IA de Anthropic que logró extraer datos de un móvil Android y hasta salió de su entorno seguro en Chrome, entonces es un motivo más que suficiente para preocuparse.

La inteligencia artificial está alcanzando capacidades de ciberseguridad que anteriormente requerían equipos de especialistas altamente cualificados. Esto supone una gran noticia en términos de seguridad informática si lo vemos desde el punto de vista de defender de ataques y detectar vulnerabilidades, pero claro, hay dos caras en esta moneda. También ocurre lo contrario y es que si se usa la IA para fines maliciosos, entonces sus capacidades nos dan temor más que tranquilidad.

Una IA "secreta" de Anthropic logra extraer datos de un móvil Google Pixel 9 con Android

Anthropic ha revelado que un modelo de inteligencia artificial experimental, todavía no presentado públicamente, ha conseguido descubrir y combinar vulnerabilidades de seguridad para ejecutar ataques informáticos contra Android, Google Chrome, Safari, Windows y Linux. En Android, la IA consiguió desarrollar un ataque capaz de extraer fotografías y otros datos personales de un teléfono bloqueado sin conocer su contraseña. Las pruebas se realizaron sobre un Google Pixel 9 y aprovecharon varias debilidades en los mecanismos de transferencia de archivos y autorización de conexiones. No obstante, este ataque exigía acceso físico al dispositivo mediante USB, por lo que no podía realizarse simplemente desde Internet.

La investigación, realizada por su equipo Frontier Red Team, demuestra que una IA avanzada puede identificar fallos complejos, desarrollar métodos para explotarlos y superar diferentes mecanismos de protección con una intervención humana muy limitada. El modelo consiguió construir cinco cadenas de ataques funcionales, algunas capaces de comprometer sistemas sin necesidad de credenciales o de que el usuario interactuase con el dispositivo.

También consiguió usar vulnerabilidades para escapar del entorno seguro de Google Chrome

Uno de los descubrimientos más sorprendentes afectó a Google Chrome, donde la inteligencia artificial encadenó cuatro vulnerabilidades para escapar del entorno aislado de seguridad del navegador, conocido como sandbox. Durante una demostración realizada en macOS, bastaba con abrir una página web maliciosa para que el ataque ejecutase código fuera del navegador y abriese automáticamente la aplicación Calculadora. En Safari, el modelo encontró otra combinación de fallos que permitía saltarse la política de seguridad que separa los datos de diferentes páginas web, haciendo posible acceder al historial, las cookies e incluso información de servicios donde la víctima tuviera una sesión iniciada, como correos electrónicos o cuentas bancarias.

Los descubrimientos también afectaron a Windows y Linux. En el sistema operativo de Microsoft, el modelo encontró una vulnerabilidad en la implementación del protocolo QUIC que permitía provocar bloqueos y reinicios repetidos de servidores que aceptasen conexiones HTTP, dejándolos temporalmente fuera de servicio. En Linux, el resultado fue todavía más preocupante, puesto que la inteligencia artificial desarrolló un ataque remoto capaz de obtener permisos de administrador root sin autenticación ni intervención del usuario, aunque únicamente contra servidores con una configuración específica de Multipath TCP.

Anthropic asegura que todas las vulnerabilidades descritas fueron comunicadas a los fabricantes y posteriormente corregidas. La compañía también aclara que los experimentos se realizaron en entornos controlados y que no existen pruebas de que estas cadenas de ataques se hayan utilizado contra víctimas reales.