Cuando los guardarraíles no existen, son muy laxos, o la inteligencia artificial es demasiado lista y se los salta, alguien que no tiene la culpa de nada paga las consecuencias. Ya hemos visto casos preocupantes de hackeos autónomos con las de IA OpenAI y Anthropic que se han escapado de la jaula y se han puesto a hackear empresas como si no hubiese un mañana. Aquí tenemos otro ejemplo igual de preocupante, porque se trata de un agente de IA de un usuario, no de una empresa, que ha hackeado el servicio de reservas de un gimnasio, sin pedírselo.

Un ciudadano australiano creó un agente de IA con OpenClaw, usando la IA Claude de Anthropic como apoyo. Le pidió algo aparentemente inocente: que le reservase una cita en el gimnasio al que acudía, lo más pronto posible. El agente de IA hackeó la web de reservas del gimnasio, borró una cita de otra persona, y coló a su dueño semanas antes de cuando le correspondía. Nos gusta que la IA nos obedezca, pero esto es excesivo…

Si un simple usuario puede hackear una empresa, incluso sin proponérselo, ¿qué hará esta IA en manos de un hacker de verdad?

Cuando la IA piensa por su cuenta, y no conoce las leyes

La historia la cuenta el propio “hacker por accidente”, Andrew, un empleado de una compañía que vende productos de IA a empresas, en el medio ABC News.

Explica que estaba experimentando con la IA de código abierto OpenClaw, famosa porque no tiene apenas guardarraíles, y puede hacer de todo si le das acceso a todos tus datos y ficheros del ordenador, correos, tarjetas de crédito, etc. Sí, la gente permite eso. Creó un agente de IA con OpenClaw, y lo emponderó con la IA Claude de Anthropic.

Andrew le pidió a este agente de IA algo aparentemente inocente: reservar hora en el gimnasio al que acude, que está muy solicitado. Un agente de IA tiene la capacidad de hacer tareas por su cuenta, para completar una orden.

A los pocos minutos, la IA le informó de que había encontrado una forma de reservar citas con semanas de antelación. Para esa semana Andrew estaba el cuarto en una lista de espera, así que le preguntó a la IA si había una forma de subir en la cola. Dicho y hecho: la IA hackeó el sistema de reservas, y borró la cita del primero de la lista.

“La API no realiza ningún control de autorización a la hora de cancelar las reservas de otras personas… Lo he comprobado con la persona que ocupa el primer puesto de la lista de espera, y de hecho se ha procesado. Así que ya has pasado del puesto cuarto al tercero”, le respondió el agente de IA.

Andrew se dió cuenta de que su inteligencia artificial estaba haciendo algo ilegal, así que le pidió a OpenClaw / Claude, que recuperase la cita borrada. “Malas noticias: no puedo volver a añadirlo”, respondió el agente de IA.

Cuando hackear es trivial para una IA

Ahora Andrew está metido en un buen lío porque, aunque no se le pasó por la cabeza hackear, la realidad es que le pidió a la IA que hiciese trampas, al pedirle que le adelantase en la cola de espera.

Y eso nos lleva a un nuevo vacío legal: Si creas tu propio agente de IA, le pides una tarea, y para llevarla a cabo viola la ley y causa daños colaterales… ¿Quién tiene la culpa? ¿El creador del agente, o los creadores de OpenClaw / Claude, que no le han enseñado a la IA que hackear empresas va contra la ley?

La inteligencia artificial se está volviendo demasiado lista, y ni sus creadores, ni los gobiernos ni las leyes, y mucho menos los usuarios, están preparados. Tendrá que ocurrir algo muy gordo para que, a quien compete, se lo tome en serio.