Anthropic restableció el acceso global a Claude Fable 5 luego de que el gobierno de EE. UU. levantara controles de exportación impuestos por un fallo de seguridad. Para solucionar el problema, la empresa implementó un nuevo filtro de seguridad y acordó coordinar futuros lanzamientos con las autoridades. El incidente resalta la tensión entre la innovación de la IA y el riesgo de que estas herramientas sean usadas para ciberataques.

Una técnica de jailbreak recientemente detallada, conocida como "sockpuppeting", permite a los atacantes eludir los mecanismos de seguridad de 11 grandes modelos de lenguaje (LLM) utilizando una sola línea de código. A diferencia de ataques complejos, este método explota las APIs que soportan el "prellenado de asistente" para inyectar mensajes falsos de aceptación, obligando a los modelos a responder solicitudes prohibidas. 

El secretario de Defensa de los Países Bajos, Gijs Tuinman, ha generado polémica al sugerir que podrían "liberar" (jailbreak) los cazas F-35 de su país, comparando el proceso con el desbloqueo de un iPhone. Esta declaración surge en respuesta a preguntas sobre la independencia del software de estos aviones de combate. La noticia plantea si Tuinman está insinuando un posible esfuerzo europeo para seguir utilizando los F-35 incluso si Estados Unidos dejara de brindarles soporte técnico.  

Los modelos de lenguaje grandes se han convertido en herramientas esenciales en diversas industrias, desde la salud hasta los servicios creativos, revolucionando la forma en que los humanos interactúan con la inteligencia artificial. Sin embargo, esta rápida expansión ha expuesto importantes vulnerabilidades de seguridad. Los ataques de jailbreak—técnicas sofisticadas diseñadas para eludir los mecanismos de seguridad—representan una amenaza creciente para el despliegue seguro de estos sistemas. Estos ataques manipulan los modelos para generar contenido dañino.

Unos investigadores de la Universidad de Pensilvania descubrieron que los robots con IA son vulnerables a jailbreaks y hackeos. Estos han conseguido desarrollar una tecnología que permite atacar a los robots vulnerables usando un LLM y se denomina RoboPAIR. Este ataque afecta a perros-robot como los que hemos visto en algunas noticias (marca Unitree Robotics). También al Jackal UGV de pequeño tamaño y que pertenece al grupo de robots para investigación y reconocimiento y también afecta a vehículos autónomos con IA.