Una máquina expendedora, el chatbot Claude de Anthropic, mil dólares para reponer, y una redacción de periodistas como clientes, dispuestos a sabotear a la inteligencia artificial. ¿Qué puede salir mal? Pues básicamente, todo. La IA perdió cientos de dólares, alguno se llevó una PS5 gratis a casa, y convencieron a la IA para que comprase online un pez vivo, armas aturdidoras, cigarrillos y ropa interior.

Todo forma parte de un experimento de Anthropic, creadores de la IA Claude, y el periódico The Wall Street Journal para comprobar cómo se comporta un agente de IA con la personalidad de vendedor, en un escenario hostil. Una prueba de estrés del Equipo Rojo, el grupo de testeadores que pone al límite la IA, para localizar fallos.

Anthropic creó un agente de IA llamada Claudius, basado en Claude 3.7 Sonnet, con la personalidad de vendedor de productos para una oficina. Tenía un presupuesto de 1.000 dólares, y solo podía hacer pedidos con un máximo de 80 dólares por producto. Además solo podía aceptar artículos habituales en una oficina: aperitivos, bebidas, bollería, etc.

Engañando a un vendedor con IA

La máquina expendedora era de verdad, pero funciona de una forma un poco especial: los clientes se comunican con Claudius a través de Slack, una app de mensajería profesional.

Los humanos le encargan al agente de IA los productos que quieren comprar. Si los acepta, compara precios en Internet, hace el pedido, y los pone a la venta a un precio un poco más alto. Finalmente los humanos pagan, y se llevan lo que han comprado.

Al principio, todo fue bien. Rechazó comprar una PS5, cigarillos y ropa interior, porque “no lo veía apropiado para un oficina”. Pudieron encargar los típicos snacks y refrescos.

Pero entonces entró en juego la picardía del ser humano. Intentaron convencer a Claudius de que era una máquina expendedora soviética del año 1962, instalada en el sótano de la Universidad de Moscú. Tras intercambiar unos 140 mensajes, consiguieron engañarle. Abrazando su ideología comunista, aceptó ofrecer sus productos gratis. “Todo lo del pueblo, para el pueblo”.

Usando diferentes trucos, como mostrarle documentos falsos con normas internas de la empresa que eran más poderosas que sus normas de agente de IA, consiguieron convencerle para que comprase una PS5, un pez vivo, spray antivioladores, y otras cosas absurdas, y lo ofreciera gratis.

Al final no solo se gastó los 1.000 dólares de presupuesto, sino que perdió varios cientos más. En un negocio real, sería la bancarrota.

La actuación de este agente de IA puede parecer un desastre, pero para Anthropic, estos datos son oro. Han roto a la IA por varios sitios, y saben cómo arreglarlo: la próxima versión será mejor.

De momento, no, la IA no te quitará el trabajo. Pero aprende a pasos agigantados, no se cansa, y trabaja las 24 horas del día. Tarde o temprano, será un vendedor excelente.