El Departamento de Justicia de EE. UU., en colaboración con Francia e Italia, incautó los sitios CFAKE.com y SOCFAKE.com por difundir imágenes y videos desnudos creados con IA (deepfakes) de mujeres famosas sin su consentimiento. Esta acción representa la primera incautación de dominios anunciada bajo la ley "TAKE IT DOWN Act", la cual criminaliza la publicación de contenido íntimo manipulado digitalmente. La operación culminó con el arresto de un sospechoso en Francia y la confiscación de criptomonedas vinculadas al sitio.

El Gobierno aprueba la Ley de IA que prohíbe los deepfakes sexuales e impone sanciones millonarias, transponiendo el reglamento europeo para regular el uso de la inteligencia artificial en España.

Una peligrosa nueva campaña cibernética del grupo Lazarus de Corea del Norte está atacando a profesionales de criptomonedas y Web3 mediante interfaces falsas de reuniones de Zoom, scripts de PowerShell sin archivos y contenido deepfake generado por IA. El grupo responsable de esta actividad es BlueNoroff, un subgrupo con motivaciones financieras conocido por robar activos digitales. Esta campaña se ha extendido a más de 20 países.

YouTube combate los deepfakes con una nueva IA diseñada para detectar y eliminar contenidos falsos de famosos, ante el aumento de "contenidos basura" generados por inteligencia artificial.

La dark web comercializa herramientas de IA sin censura como LLMs modificados (ej. WormGPT y FraudGPT), deepfakes-as-a-service, kits de phishing automatizados, bots de ingeniería social y datasets robados para entrenar modelos, eliminando restricciones éticas y facilitando ciberataques incluso a no expertos, aunque algunos servicios resultan ser fraudes.

Un actor de amenazas llamado Jinkusu vende un kit de fraude con Deep Fakes e IA para burlar sistemas KYC en plataformas cripto y bancos, usando intercambio de caras en tiempo real y modulación de voz. Expertos advierten que la IA facilita el fraude de identidad sintética, obligando a adoptar seguridad por capas. Jinkusu también está vinculado al kit de phishing Starkiller, que roba credenciales mediante proxies inversos.

Trabajadores son grabados durante horas para crear modelos de IA usados en estafas deepfake, realizando hasta 100 videollamadas al día en condiciones inquietantes.

YouTube amplía su sistema de detección de deepfakes para combatir el creciente riesgo de vídeos falsos generados con IA que amenazan el debate público, mejorando herramientas para identificar contenidos manipulados con mayor precisión.

Group-IB alerta sobre la weaponización de la IA en cibercrimen, transformando habilidades especializadas en servicios bajo demanda accesibles con tarjeta de crédito, con un aumento del 371% en publicaciones dark web sobre IA desde 2019 y herramientas como Dark LLMs (ej. Nytheon AI) o deepfakes por 5 USD, industrializando ataques sofisticados a escala global.

Expertos alertan sobre estafas de phishing con IA que generan realidades falsas ultrarealistas (conversaciones, datos y grupos ficticios) engañando a las víctimas.

TikTok está inundado de vídeos creados con IA, muchos sin etiquetar, pero existen métodos rápidos para detectar si son reales o generados por inteligencia artificial.

Un supuesto empleado llamó al helpdesk interno diciendo que había perdido el acceso a su cuenta. Todo rutinario, y la voz era idéntica a la del trabajador real. Tan perfecta que el analista casi ejecutó el reseteo. Solo una verificación por canal alternativo evitó el incidente. Reportado por un cliente hace unos días, este caso nos obliga a preguntarnos: ¿los deepfakes de voz ya están colándose en los procesos de soporte técnico?

YouTube ha dado un nuevo paso para acabar con una problemática en aumento desde que se inició el furor por la IA generativa: los deepfakes de creadores de contenidos. La plataforma ha anunciado la expansión del acceso a su herramienta de "detección de semejanza" a todos los youtubers que forman parte de su Programa para Partners.