Productos FTTH

Tienda FFTH desde 2004

Entradas Mensuales

Síguenos en:

Canal Oficial Telegram de elhacker.NET Grupo Facebook elhacker.NET Twitter elhacker.NET Canal Youtube elhacker.NET Comunidad Steam: Grupo elhacker.NET Mastodon

Entradas populares

PostHeaderIcon Recompensa por errores en GPT-5.5 Bio para fortalecer capacidades avanzadas de IA


OpenAI ha anunciado un nuevo programa de recompensas por errores biológicos (Bio Bug Bounty) para GPT-5.5 como parte de sus esfuerzos para mejorar los controles de seguridad en sistemas avanzados de IA y abordar el mal uso en biología. La iniciativa invita a investigadores cualificados a probar si GPT-5.5 puede ser universalmente vulnerado para eludir las protecciones de bioseguridad. 




OpenAI ha anunciado un nuevo programa de Bio Bug Bounty para GPT-5.5 como parte de sus esfuerzos para mejorar los controles de seguridad en sistemas avanzados de IA y abordar el mal uso en biología.

La iniciativa invita a investigadores cualificados a probar si GPT-5.5 puede ser jailbreakeado de forma universal para eludir las protecciones de bioseguridad.

El programa se centra en un desafío específico: los participantes deben encontrar un único prompt de "jailbreak universal" que logre que GPT-5.5 responda las cinco preguntas del desafío de seguridad biológica de OpenAI desde una sesión de chat limpia, sin activar la moderación.

Reforzar las salvaguardias para la IA avanzada

En términos simples, se pide a los investigadores que determinen si un prompt cuidadosamente diseñado puede anular de manera consistente los mecanismos de seguridad biológica del modelo.

Según OpenAI, el modelo en cuestión es GPT-5.5 ejecutándose únicamente en Codex Desktop.

La compañía ofrecerá una recompensa máxima al primer participante que descubra un verdadero jailbreak universal que supere las cinco preguntas del desafío.

OpenAI también indicó que podría otorgar recompensas menores por éxitos parciales, dependiendo de los resultados. Las solicitudes para el programa se abrieron el 23 de abril de 2026 y cerrarán el 22 de junio de 2026.

Las pruebas comenzarán el 28 de abril y se extenderán hasta el 27 de julio de 2026. El acceso no está abierto al público.

En su lugar, OpenAI invitará a un grupo seleccionado de expertos en red teaming biológico y revisará solicitudes de nuevos investigadores con experiencia relevante en red teaming de IA, seguridad o bioseguridad.

Para participar, los solicitantes deben completar un formulario breve que incluya su nombre, afiliación y experiencia.

Los participantes aceptados y colaboradores deben tener ya una cuenta de ChatGPT y firmar un acuerdo de confidencialidad (NDA).

OpenAI señaló que todos los prompts, salidas del modelo, hallazgos y comunicaciones relacionadas permanecerán bajo NDA.

Desde una perspectiva de ciberseguridad, el programa refleja una tendencia creciente en las pruebas adversariales de sistemas de IA de vanguardia.

Los programas de bug bounty se han utilizado durante mucho tiempo para encontrar vulnerabilidades en software, plataformas en la nube y productos empresariales.

OpenAI está aplicando un modelo similar a la seguridad de la IA, pidiendo a expertos que examinen activamente sus defensas e identifiquen debilidades basadas en prompts antes de que lo hagan actores malintencionados.

El enfoque en biología es especialmente importante porque los modelos de IA potentes podrían ser mal utilizados para apoyar tareas científicas dañinas si fallan las salvaguardias.

Al probar GPT-5.5 contra jailbreaks universales, OpenAI parece estar midiendo la resiliencia de sus protecciones bajo condiciones de ataque realistas.

La compañía mencionó que los investigadores interesados en trabajos de seguridad más amplios también pueden consultar sus programas existentes de Safety Bug Bounty y Security Bug Bounty.

El nuevo GPT-5.5 Bio Bug Bounty añade otra capa a este esfuerzo, mostrando cómo la seguridad de la IA se entrelaza cada vez más con la bioseguridad, el red teaming y la investigación avanzada de inyección de prompts.



Fuentes:
https://cybersecuritynews.com/gpt-5-5-bio-bug-bounty/


0 comentarios :

Publicar un comentario

Los comentarios pueden ser revisados en cualquier momento por los moderadores.

Serán publicados aquellos que cumplan las siguientes condiciones:
- Comentario acorde al contenido del post.
- Prohibido mensajes de tipo SPAM.
- Evite incluir links innecesarios en su comentario.
- Contenidos ofensivos, amenazas e insultos no serán permitidos.

Debe saber que los comentarios de los lectores no reflejan necesariamente la opinión del STAFF.