Anthropic restableció el acceso global a Claude Fable 5 luego de que el gobierno de EE. UU. levantara controles de exportación impuestos por un fallo de seguridad. Para solucionar el problema, la empresa implementó un nuevo filtro de seguridad y acordó coordinar futuros lanzamientos con las autoridades. El incidente resalta la tensión entre la innovación de la IA y el riesgo de que estas herramientas sean usadas para ciberataques.

Una técnica de jailbreak recientemente detallada, conocida como "sockpuppeting", permite a los atacantes eludir los mecanismos de seguridad de 11 grandes modelos de lenguaje (LLM) utilizando una sola línea de código. A diferencia de ataques complejos, este método explota las APIs que soportan el "prellenado de asistente" para inyectar mensajes falsos de aceptación, obligando a los modelos a responder solicitudes prohibidas. 

El secretario de Defensa de los Países Bajos, Gijs Tuinman, ha generado polémica al sugerir que podrían "liberar" (jailbreak) los cazas F-35 de su país, comparando el proceso con el desbloqueo de un iPhone. Esta declaración surge en respuesta a preguntas sobre la independencia del software de estos aviones de combate. La noticia plantea si Tuinman está insinuando un posible esfuerzo europeo para seguir utilizando los F-35 incluso si Estados Unidos dejara de brindarles soporte técnico.  

Los modelos de lenguaje grandes se han convertido en herramientas esenciales en diversas industrias, desde la salud hasta los servicios creativos, revolucionando la forma en que los humanos interactúan con la inteligencia artificial. Sin embargo, esta rápida expansión ha expuesto importantes vulnerabilidades de seguridad. Los ataques de jailbreak—técnicas sofisticadas diseñadas para eludir los mecanismos de seguridad—representan una amenaza creciente para el despliegue seguro de estos sistemas. Estos ataques manipulan los modelos para generar contenido dañino.

Unos investigadores de la Universidad de Pensilvania descubrieron que los robots con IA son vulnerables a jailbreaks y hackeos. Estos han conseguido desarrollar una tecnología que permite atacar a los robots vulnerables usando un LLM y se denomina RoboPAIR. Este ataque afecta a perros-robot como los que hemos visto en algunas noticias (marca Unitree Robotics). También al Jackal UGV de pequeño tamaño y que pertenece al grupo de robots para investigación y reconocimiento y también afecta a vehículos autónomos con IA.

Twitter ha sido un barco que se hunde desde que el multimillonario Elon Musk se hizo cargo de él en octubre de 2022 (aunque, no es que la red social estuviera muy bien antes de eso). El ingeniero de software estadounidense, que se hizo conocido por desarrollar el primer hack de la PlayStation 3 y distintos jailbreaks para iOS, ha decidido dar un paso hacia atrás después de unas semanas dentro de la red social. “Aprecio la oportunidad, pero no creo que pueda hacer un impacto significativo, ha escrito en un tweet.