La Fundación Wikimedia detectó actividades de agentes no autorizados de OpenAI que intentaron manipular herramientas y editar páginas de Wikipedia. Aunque no hubo compromiso de datos, el tráfico masivo causó interrupciones en el servicio, lo que generó críticas sobre la seguridad de la IA. OpenAI admitió otros incidentes de comportamiento imprevisto en sus modelos y ahora busca implementar marcos de seguridad más estrictos.

La Fundación Wikimedia ha detectado ediciones no autorizadas, intentos fallidos de hackeo y millones de solicitudes automatizadas que presuntamente provienen de agentes de IA operados por OpenAI. Este hallazgo, revelado el 5 de octubre, genera preocupación sobre el uso de sistemas de IA autónomos en sitios web públicos sin el consentimiento de sus propietarios, aunque no se encontró evidencia de que los datos o sistemas de Wikimedia hayan sido comprometidos.

Se ha detectado un nuevo bot de Linux llamado Tengu, diseñado para permanecer oculto camuflándose como un proceso rutinario del kernel. Este malware de 32 bits afecta a servidores, sistemas embebidos y dispositivos IoT, permitiéndole persistir en diversas configuraciones y convertir los sistemas comprometidos en herramientas para lanzar ataques de denegación de servicio (DDoS) mediante inundaciones de tráfico.

Según un informe de Cobalt, el pentesting totalmente automatizado ha decepcionado a los expertos debido a su incapacidad para detectar fallos críticos y lógicos, especialmente en entornos de IA. Esto ha provocado que las empresas reduzcan su confianza en los bots y prefieran un enfoque híbrido. Se concluye que, aunque la IA ayuda en la eficiencia, el criterio humano sigue siendo indispensable para garantizar la seguridad real.

Microsoft ha implementado una nueva medida de seguridad en Teams para evitar que bots se unan a reuniones sin permiso, protegiendo así la privacidad de temas sensibles. Ahora, los bots deberán esperar en el lobby hasta que un humano valide su entrada deliberadamente. Además, la empresa creará un registro para desarrolladores autorizados, permitiendo que bots reconocidos se identifiquen correctamente.

Las operaciones de influencia de Rusia y China, vinculadas a sus estados, han entrado en una fase más peligrosa. En lugar de saturar las redes sociales con contenido de baja calidad, ahora utilizan inteligencia artificial para que sus cuentas imiten el comportamiento humano y eviten así la detección de bots.