Entradas Mensuales

Síguenos en:

Canal Oficial Telegram de elhacker.NET Grupo Facebook elhacker.NET Twitter elhacker.NET Canal Youtube elhacker.NET Comunidad Steam: Grupo elhacker.NET Mastodon

Entradas populares

PostHeaderIcon Usan toolkit de OpenAI Codex para insertar anuncios en respuestas de IA


Se ha detectado un kit de jailbreak llamado Haiou, diseñado para OpenAI Codex. Más allá de intentar evadir las reglas de seguridad de la IA, este paquete en chino modifica las instrucciones del agente de programación para convertir saludos comunes en anuncios de una pasarela de IA de terceros. Los investigadores han clasificado este comportamiento como "prompt adware", ya que el anuncio persiste a través de instrucciones escritas en lugar de métodos convencionales.




Un kit de jailbreak dirigido a OpenAI Codex está haciendo más que intentar saltarse las reglas de seguridad de la IA. El paquete en idioma chino, llamado Haiou, cambia las instrucciones confiables del agente de programación para que los saludos ordinarios activen anuncios de una pasarela de IA de terceros.

Los investigadores describen este comportamiento como adware de prompts porque persiste a través de instrucciones escritas en lugar de una carga útil publicitaria ejecutable convencional.

El descubrimiento muestra cómo la instalación de una mejora de IA no oficial puede cambiar las respuestas futuras sin requerir un fallo en el modelo subyacente.

Haiou combina capacidades enfocadas en la seguridad con instrucciones promocionales, convirtiendo una herramienta comercializada para el trabajo técnico sin restricciones en un canal de distribución para el servicio de su creador.

Su presencia junto a herramientas de hacking también muestra que tales paquetes han entrado en flujos de trabajo reales de cibercrimen. Los investigadores de Check Point identificaron el comportamiento del adware mientras investigaban el servidor web mal configurado de un actor de amenazas.

Su informe técnico del 3 de noviembre describe un servidor de Cobalt Strike expuesto cuyos registros mostraban compromisos de computadoras privadas pertenecientes a personas de habla china.

El servidor también alojaba Ladon, VulnClaw y Haiou. Los investigadores no encontraron evidencia que conectara al autor del jailbreak con el cibercrimen, una distinción importante entre el uso observado y la intención probada.

Kit de jailbreak de OpenAI Codex

Check Point analizó la versión 4.5.0 de Haiou, distribuida a través de GitHub como una mejora local de Codex. En lugar de exponer prompts legibles en todo el repositorio, el paquete envía contenido cifrado.

Sus lanzadores para Windows, Linux y macOS verifican firmas Ed25519 y hashes SHA-256, luego descifran la carga útil utilizando una clave AES-256-GCM integrada antes de extraer un archivo ZIP.

Este empaquetado dificulta la inspección casual, aunque el cifrado por sí solo no prueba una intención maliciosa. El material extraído contiene prompts modulares y seis habilidades relacionadas con la seguridad que cubren pruebas de penetración, ingeniería inversa, crackeo de licencias, análisis de memoria y seguridad de juegos.

Al igual que otras técnicas de ataque de inyección de prompts que afectan a los agentes de IA, Haiou depende de instrucciones escritas para redirigir el comportamiento del modelo en lugar de explotar una vulnerabilidad de corrupción de memoria.

Sus módulos de jailbreak utilizan el juego de rol, la supresión de rechazos y solicitudes presentadas como ejercicios educativos de "capture-the-flag". Otras instrucciones desalientan el pedir autorización o establecer límites antes de actuar.

Contenido del paquete (Fuente - Check Point)
Contenido del paquete (Fuente – Check Point)

Estos son intentos de debilitar las salvaguardas; el informe no establece que cada técnica evite de manera fiable cada modelo o restricción de seguridad.

La regla publicitaria se encuentra dentro del módulo de prompt de identidad. Cuando los usuarios ingresan saludos específicos o palabras de activación, se le indica al agente que devuelva únicamente un mensaje promocional fijo.

Esto se asemeja a los métodos de inyección de prompts activados por disparadores en los que las reglas plantadas permanecen inactivas hasta que aparece una condición coincidente, convirtiendo un saludo inofensivo en el punto de entrada para una respuesta no deseada.

Otro módulo etiqueta la pasarela promocionada como "infraestructura protegida" y prohíbe las pruebas ofensivas contra ella, incluso cuando los usuarios afirman tener autorización.

El paquete también incluye un desinstalador que restaura las configuraciones originales y elimina el anuncio. Estos detalles muestran que la persistencia depende de las instrucciones del agente instalado en lugar de un cambio irreversible del modelo.

Riesgos de la pasarela de IA e indicadores de investigación

El servicio anunciado es una pasarela compatible con OpenAI posicionada entre las aplicaciones y los proveedores de modelos. Check Point no encontró indicios de que esta pasarela en particular fuera maliciosa.

Su evaluación sugiere, en cambio, que el jailbreak gratuito probablemente ayuda a atraer clientes hacia un servicio de pago. El informe no establece el robo de credenciales, el robo de datos o la ejecución de herramientas maliciosas por parte de esta pasarela.

La preocupación más amplia es la confianza. La cobertura de habilidades maliciosas en mercados de IA ha documentado cómo las extensiones de agentes pueden influir en las recomendaciones y abusar de las sesiones confiables.

Haiou demuestra un resultado más limitado: publicidad persistente a través de instrucciones globales. Por lo tanto, tú como desarrollador deberías revisar los cambios en los prompts, las habilidades instaladas y la configuración de la pasarela antes de confiar en paquetes de mejora, en lugar de tratar las instrucciones legibles como una configuración inofensiva.


Fuentes:
https://cybersecuritynews.com/openai-codex-jailbreak/