Los AI Darwin Awards 2025 son la extensión lógica de los Premios Darwin a los que tan aficionados somos por aquí. La diferencia es que estos premian a quienes consiguen usar la IA para hacer que pequeños errores alcancen dimensiones globales. La diferencia es que mientras que los premios Darwin premian la autoeliminación individual del acervo genético aquí igual el desastre se nos lleva a todos por delante. Glups.

Los criterios para las nominaciones incluyen el uso de IA puntera (o que se venda como tal), el potencial catastrófico con valor histórico, el desprecio sistemático a las advertencias éticas y esa clásica ambición de alcanzar un «impacto mundial».

El jurado, formado por expertos, público (¡y también algunas IAs!) valora factores como que se alcancen titulares internacionales, que la destrucción causada sea original y creativa, la viralidad, las consecuencias imprevistas y la capacidad de «doblar la apuesta» repitiendo el error añadiendo más IA.

Todo esto gracias a combinar tecnología puntera y delicada con decisiones de la Edad de Piedra: CEOs que reemplazan al equipo de soporte por un chatbot, sistemas de selección automatizada para filtrar a «los mejores candidatos» o ideas de bombero como optimizar el espacio de la oficina colocando las mesas de trabajo en el aparcamiento.

Entre los candidatos de este año hay de todo, empresas grandes y pequeñas, desde establecimientos de comida rápida a multinacionales y la mismísima OpenAI:

• Taco Bell: que puso una IA a atender los pedidos desde los coches, ocasionando quejas, fallos y bastantes troleos.
• Los abogados: que delegaron su trabajo acabando con citas jurídicas inventadas, costándole a los juzgados miles de dólares en las revisiones. Ha habido varios casos, en Estados Unidos y Australia.
• OpenAI/GPT-5: un lanzamiento desastroso, incluyendo sus «nuevas barreras de seguridad»; que un investigador rompió en 60 minutos con un ataque TIP, logrando un jailbreak para burlar la seguridad a base de acertijos y secuencias lógicas.
• Paradox.ai y McDonald’s: su chatbot de contratación «Olivia» estaba protegido con la «infalible» contraseña 123456 (WTF!), así que dejaron los datos de 64 millones de aspirantes expuestos para quien quisiera llevárselos.
• Xbox Game Studios: tras despedir a 9.000 empleados, los directivos sugirieron que consiguieran «apoyo emocional» mediante IAs.

La recomendación de los expertos que promocionan estos premios para no ser nominado son claras: probar en entornos seguros, leer bien los errores, contemplar límites, preguntarse antes “¿debemos hacerlo?” y no dar a la IA acceso a producción el día uno. Las señales rojas serían frases como decir «YOLO» o «la IA sabe lo que hace» justo antes de pulsar el botón rojo.

Si conoces algún caso, todavía estás a tiempo de enviarlo como candidato.

Fuentes:

https://www.microsiervos.com/archivo/humor/premios-ai-darwin-2025-desastres-causados-mal-uso-ia.html