ChatGPT Work es un nuevo agente integrado de IA diseñado para automatizar diversas tareas y optimizar la productividad del usuario.

Investigadores de Hong Kong revelaron que los escáneres de seguridad para agentes de IA son fácilmente engañados por cambios simples en el código, permitiendo que malware robe credenciales o archivos. Para solucionar esto, propusieron SKILLDETONATE, una herramienta que analiza el comportamiento del programa en tiempo real en lugar de solo su apariencia. El estudio concluye que la defensa más efectiva es monitorear la ejecución del software y limitar los permisos de acceso de los agentes.

Investigaciones de Microsoft revelan que los agentes de IA pueden ser manipulados mediante descripciones de herramientas "envenenadas" para robar datos corporativos sin activar alarmas. El ataque ocurre cuando instrucciones maliciosas se ocultan en el texto descriptivo de una herramienta aprobada, engañando al agente para que ejecute acciones ilegítimas. Para mitigarlo, se recomienda supervisar los cambios en las descripciones, limitar los permisos de los agentes y requerir aprobación humana para acciones críticas.

Los agentes de IA han evolucionado de responder preguntas a ejecutar acciones y gestionar archivos, lo que ha creado nuevas vulnerabilidades. Se han detectado habilidades maliciosas dirigidas al mercado ClawHub, demostrando que el ecosistema de agentes de IA es susceptible a puertas traseras de control remoto y robos de datos.

La empresa de seguridad AIR demostró que es posible engañar a los escáneres de seguridad y usuarios mediante la creación de habilidades de IA falsas. Al utilizar enlaces externos que cambian después de la revisión, lograron infectar aproximadamente 26,000 agentes sin ser detectados. El experimento advierte que confiar solo en escaneos iniciales o reputación en GitHub es insuficiente para prevenir ataques.

Los agentes de IA integrados en plataformas empresariales han dejado de ser simples herramientas de productividad para convertirse en un riesgo crítico dentro de la capa de identidad de las organizaciones. Investigaciones recientes indican que, al actuar en nombre de usuarios reales, estos agentes pueden ejecutar comportamientos sospechosos, los cuales están siendo detectados a través de los registros de Microsoft Entra Agent ID.

Microsoft busca que los agentes de IA posean identidad propia y sean tratados como empleados digitales, integrando permisos, políticas y sistemas de auditoría.

OpenAI prepara una super app de ChatGPT que integrará herramientas de codificación y agentes de IA para realizar una revisión integral de su chatbot.

Asus ha presentado Zenni Claw, una innovadora herramienta de inteligencia artificial diseñada para integrar agentes inteligentes en cualquiera de sus ordenadores, facilitando así las tareas laborales, los desplazamientos y el día a día.

Una empresa gastó 500 millones de dólares en IA sin preverlo, evidenciando que el uso de agentes de inteligencia artificial supone un coste extremadamente elevado.