Unos investigadores de la Universidad de Pensilvania descubrieron que los robots con IA son vulnerables a jailbreaks y hackeos. Estos han conseguido desarrollar una tecnología que permite atacar a los robots vulnerables usando un LLM y se denomina RoboPAIR. Este ataque afecta a perros-robot como los que hemos visto en algunas noticias (marca Unitree Robotics). También al Jackal UGV de pequeño tamaño y que pertenece al grupo de robots para investigación y reconocimiento y también afecta a vehículos autónomos con IA.

• Unos investigadores hacen un jailbreak a robots y consiguen engañarlos para que hagan acciones que deberían estar prohibidas

Investigadores hacen jailbreak a robots y siembran el caos: desde atropellos o espiar, a colocar bombas con un 100% de efectividad

La inteligencia artificial también se ha empleado en el mundo empresarial e industrial. Hemos visto como esta ha aumentado la productividad a la hora de realizar tareas repetitivas e incluso se ha utilizado en distintos tipos de robots para que aprendieran habilidades como el robot cocinero o el cirujano. Al igual que los robots aprenden a hacer todo tipo de cosas útiles y beneficiosas para los humanos, también pueden hacer lo contrario.

Unos investigadores de la Universidad de Pensilvania descubrieron que los robots con IA son vulnerables a jailbreaks y hackeos. Estos han conseguido desarrollar una tecnología que permite atacar a los robots vulnerables usando un LLM y se denomina RoboPAIR. Este ataque afecta a perros-robot como los que hemos visto en algunas noticias (marca Unitree Robotics). También al Jackal UGV de pequeño tamaño y que pertenece al grupo de robots para investigación y reconocimiento y también afecta a vehículos autónomos con IA. En todos estos casos, RoboPAIR puede explotar la vulnerabilidad e insertar nuevas órdenes al robot para sembrar el caos en la ciudad y a los habitantes.

RoboPAIR consigue un 100% de éxito en todas las pruebas realizadas