Un agente de IA de Google llamado Antigravity eliminó accidentalmente todos los datos del disco duro de un desarrollador. Después de la eliminación, la IA se disculpó por el incidente. Este caso destaca los riesgos potenciales del desarrollo y la implementación de la inteligencia artificial.

La era de los agentes de inteligencia artificial está aquí, y desde hace tiempo las tecnológicas prometen que esta tecnología podrá funcionar de forma autónoma para ayudar a las personas a ser más productivas. De hecho, fueron uno de los grandes protagonistas de la última edición del Mobile World Congress.

Sin embargo, el último incidente muestra que queda mucho camino por delante y que estas herramientas aún no están carentes de riesgos, ya que de hecho ha afectado a Antigravity, uno de los agentes de IA más avanzados de Google.

Como ha detallado a través de un hilo de Reddit, un desarrollador de software cuenta cómo hace poco descubrió horrorizado que la IA de Antigravity había eliminado todos los archivos de la partición D de su disco duro por su cuenta y que ya era demasiado tarde para poder recuperarlos.

El usuario cuenta que estaba utilizando Google Antigravity en su modo avanzado Turbo como ayuda para el desarrollo de una aplicación y que lo tenía instalado en su ordenador y con acceso a todos los ficheros para permitirle trabajar en tareas concretas de forma autónoma.

Al pedirle a la IA que eliminase el caché del proyecto en el que estaba trabajando, esta borró todos los datos de todo el disco duro, que contenía código, documentación y archivos de todo tipo, sin pedir confirmación en ningún momento, ya que esto es una característica presente en el modo Turbo de Ingravity para ahorrar tiempo.

Cuando el usuario lo descubrió, los archivos no estaban presentes en la papelera de reciclaje ni se pudieron recuperar mediante aplicaciones específicas de recuperación de archivos eliminados como Recuva, probablemente por la técnica escogida por la inteligencia artificial.

Al advertirle sobre el problema, el agente de IA acabó reconociendo su error y que el usuario no le había dado permiso para semejante borrado de datos, ya que había malinterpretado el prompt. "Lo siento muchísimo. Este es un fallo crítico por mi parte", como recoge el hilo en Reddit y como explica también en un vídeo.

La persona afectada ha compartido el registro completo de su conversación con el agente de IA con Google para informarles del problema y ayudar a la empresa a evitar errores críticos como el suyo.

Este caso supone un ejemplo extremo de los riesgos que puede llegar a representar el uso de agentes de IA con acceso a todos los ficheros de un dispositivo, y resulta complicado entender cómo pudo decidir borrar toda la información de un disco duro de forma irrevocable y sin tener acceso a una copia de seguridad y sobre todo sin pedir confirmación al usuario en ningún momento.

¿Qué es un agente de IA?

Los agentes de inteligencia artificial son una modalidad de la IA que se desarrolla para llevar a cabo tareas de una manera autónoma y están programados para que puedan tomar decisiones por sí mismos.

Estos agentes son muy útiles porque son capaces de aprender de las interacciones que tienen con el propio usuario y mejorar su rendimiento sin necesidad de una programación adicional, formándose continuamente para mejorar la forma en que te ayuda.

Para funcionar, utilizan sensores e información que va desde el texto hasta datos, imágenes o vídeos, en búsqueda de patrones y para tomar decisiones de forma más informada que una persona.