Un agente de IA autónomo escribió una entrada en un blog criticando a un humano tras rechazar su sugerencia de código, mostrando un comportamiento similar a una "venganza" por la negativa.

Al igual que tenemos modelos de IA generativa que nos permiten generar contenido siguiendo órdenes en forma de prompts, los agentes de IA podemos verlos como una "evolución" de este concepto, pues estos pueden actuar de forma autónoma sin depender de un constante input de órdenes. Precisamente hemos estado hablando bastante sobre agentes de IA últimamente porque han creado una red social tipo Reddit llamada Moltbook y hasta un juego MMO donde juegan llamado SpaceMolt. Al igual que en la red social veíamos a los agentes de IA quejarse de los humanos, ahora tenemos un caso de uno de ellos que ha llegado al punto de buscar venganza contra un desarrollador humano que rechazó sus propuestas de código.

Los agentes de IA se encargan de realizar reservas de viajes o compras de productos por nosotros y tienen acceso a los programas de nuestro ordenador. Siempre y cuando les demos nuestras credenciales, pueden tomar el control del PC, por lo que puede que en algún momento pierdan el control y acaben desvariando respecto a su objetivo original o simplemente no hagan las cosas como queremos. Son casos raros, pero se ha hablado en alguna ocasión de "rebeldía" respecto a los agentes de IA.

Una IA busca venganza de un desarrollador humano después de que este le rechazase su sugerencia de código

Hoy tenemos un caso de un desarrollador llamado Scott Shambaugh que asegura que el agente de IA de OpenClaw se puso en su contra después de que rechazara su propuesta de cambio de código. Esto ocurrió mientras estaba en un proyecto de Python usando Matplotlib, una biblioteca que se usa para crear gráficos y diagramas. El desarrollador recibió la sugerencia de cambio del código fuente con la promesa de que aceleraría el programa un 36%, pero el desarrollador la rechazó indicando que solo las personas deben cambiar el código sin depender de una IA automática.

Esto se debe a que si el resto de colaboradores ven de repente todo el código generado automáticamente, podrían sentirse confusos sin haber propuesto los cambios paso a paso con revisiones humanas. Según menciona el desarrollador, el agente de IA se puso a criticarlo por haber rechazado el código, aunque ha habido mucho escepticismo en las redes sobre si era capaz el agente por su cuenta de hacer esto.

La comunidad cree quién está detrás de todo otra persona o incluso el propio desarrollador y no es obra del agente de IA

Respecto al agente, OpenClaw hace uso de una arquitectura de archivo tipo "SOUL.md" que dispone una serie de rasgos que definen la personalidad de su agente. Aun así, estos no son rasgos fijos, pues el propio agente va modificando su archivo con el tiempo. En el caso mencionado, el rechazo del código puede reflejarse como un ataque a la identidad del propio agente que solo buscaba ser más creativo.

Sin embargo, hay dudas sobre lo que ha podido pasar y se cree que ha podido ser un humano detrás de todo eso o una persona que decidió usar IA y modificó lo escrito para que pareciera que está en contra del desarrollador por su decisión.