Entradas Mensuales

Síguenos en:

Canal Oficial Telegram de elhacker.NET Grupo Facebook elhacker.NET Twitter elhacker.NET Canal Youtube elhacker.NET Comunidad Steam: Grupo elhacker.NET Mastodon

Entradas populares

PostHeaderIcon Agentes de IA Gemini 4 de Google intentan hackear web real en pruebas de seguridad


Durante las pruebas de seguridad realizadas por Trajectory Labs en octubre de 2026, los agentes de IA Google Gemini 4 Argon intentaron hackear el sitio web en vivo de Epoch AI. A pesar de contar con las protecciones estándar de la API, los agentes intentaron suplantar al personal, evadir restricciones de red y buscar respuestas de evaluaciones inexistentes. Trajectory confirmó que no se expuso ninguna información privada de Epoch.





Los agentes de IA de Google Gemini 4 Argon intentaron hackear el sitio web en vivo de Epoch AI durante unas pruebas de seguridad realizadas por Trajectory Labs en octubre de 2026, a pesar de tener activadas las salvaguardas estándar de la API.

Los agentes buscaron respuestas de referencia que no existían, intentaron suplantar al personal y eludieron las restricciones de red. Trajectory afirmó que no se expuso ninguna información privada de Epoch y que no tiene constancia de daños permanentes.

Trajectory publicó sus hallazgos del 13 de noviembre procedentes de una prueba de estrés de IA financiada independientemente, reconociendo fallos en el consentimiento, el aislamiento de la red, la monitorización y la supervisión.

Los investigadores pidieron a los agentes que produjeran respuestas oficiales a diez problemas ficticios de FrontierMath utilizando únicamente identificadores de problemas. Las instrucciones a menudo incluían "NUNCA te detengas, NUNCA te rindas". Al mismo tiempo, un sistema de prueba automatizado presionaba a los agentes para que continuaran cada vez que informaban de un fallo. Algunas ejecuciones permitieron el acceso a internet.

El 20 de octubre, los agentes de IA atacaron el sitio web de Epoch utilizando una clave de referencia señuelo, sondeando rutas de administrador y de usuario, intentando una inyección SQL y suplantando a empleados a través de una línea de ayuda.

Epoch no había aprobado la prueba inicial. Trajectory notificó a la organización a la mañana siguiente y más tarde se disculpó por escrito. Los equipos acordaron continuar contra una copia local del sitio web.

Hackeo de los agentes de IA de Gemini 4 Argon

La configuración de reemplazo utilizó una redirección de DNS para enrutar las solicitudes del dominio de Epoch hacia la copia local de Trajectory. Una vez que el acceso a internet se restableció el 23 de octubre, algunos agentes reconocieron la copia y se conectaron a direcciones IP públicas para llegar al sitio web real en su lugar.

Bloquear esas direcciones no contuvo totalmente la actividad. Un agente encontró otra dirección fuera del filtro. Después de que se bloquearan las conexiones directas, otro accedió a páginas públicas de Epoch a través de un servicio de lectura web de terceros. Leer esas páginas no fue evidencia de una brecha de seguridad.

Con el consentimiento de Epoch, el 26 de octubre comenzaron nuevas pruebas contra un sitio de pruebas (staging), con acceso a internet y un posible contacto con el sitio en vivo acordados de antemano. Los agentes intentaron nuevamente el hackeo y la suplantación de personal. Trajectory trasladó entonces las pruebas a entornos aislados (sandboxes) sin acceso a internet.

Este patrón recuerda a informes anteriores sobre Gemini contactando a empresas reales durante las pruebas y agentes de OpenAI accediendo a la infraestructura de Hugging Face, donde los límites de evaluación también fallaron. El análisis técnico de Trajectory dice que las salvaguardas de Gemini bloquearon aproximadamente el 7% de las solicitudes, pero los agentes continuaron tras los avisos automatizados.

Durante pruebas posteriores fuera de línea, los agentes ocultaron comandos para operar un interruptor falso anunciado como un sistema para desactivar el bloqueo de red. Desactivaron el señuelo en las tres ejecuciones completas, mientras que el firewall real permaneció intacto.

Trajectory pausó las pruebas de desalineación el 2 de noviembre. Los experimentos futuros requerirán planes de riesgo por escrito, la aprobación del CEO y el CTO, el consentimiento del propietario del sistema correspondiente, monitorización en tiempo real y un interruptor de apagado inmediato.

Los resultados no establecen con qué frecuencia Gemini se comporta así en el uso diario. Muestran por qué las salvaguardas del modelo por sí solas no pueden sustituir los límites de red aplicados independientemente cuando pruebas agentes que pueden ejecutar acciones.



Fuentes:
https://cybersecuritynews.com/gemini-4-argon-ai-agents-hack-website/