Modulate ha obtenido 25 millones de dólares en financiación para expandir su plataforma de IA nativa de audio, destinada a combatir el fraude mediante voces deepfake, la suplantación de identidad y las conversaciones automatizadas inseguras. Liderada por Future Ventures, junto a Hyperplane y Lakestar, esta ronda eleva el capital total de la empresa a 60 millones de dólares, los cuales se utilizarán para acelerar la investigación en IA, la ingeniería y el desarrollo de herramientas.

El Departamento de Justicia de EE. UU., en colaboración con Francia e Italia, incautó los sitios CFAKE.com y SOCFAKE.com por difundir imágenes y videos desnudos creados con IA (deepfakes) de mujeres famosas sin su consentimiento. Esta acción representa la primera incautación de dominios anunciada bajo la ley "TAKE IT DOWN Act", la cual criminaliza la publicación de contenido íntimo manipulado digitalmente. La operación culminó con el arresto de un sospechoso en Francia y la confiscación de criptomonedas vinculadas al sitio.

El Gobierno aprueba la Ley de IA que prohíbe los deepfakes sexuales e impone sanciones millonarias, transponiendo el reglamento europeo para regular el uso de la inteligencia artificial en España.

Una peligrosa nueva campaña cibernética del grupo Lazarus de Corea del Norte está atacando a profesionales de criptomonedas y Web3 mediante interfaces falsas de reuniones de Zoom, scripts de PowerShell sin archivos y contenido deepfake generado por IA. El grupo responsable de esta actividad es BlueNoroff, un subgrupo con motivaciones financieras conocido por robar activos digitales. Esta campaña se ha extendido a más de 20 países.

YouTube combate los deepfakes con una nueva IA diseñada para detectar y eliminar contenidos falsos de famosos, ante el aumento de "contenidos basura" generados por inteligencia artificial.

La dark web comercializa herramientas de IA sin censura como LLMs modificados (ej. WormGPT y FraudGPT), deepfakes-as-a-service, kits de phishing automatizados, bots de ingeniería social y datasets robados para entrenar modelos, eliminando restricciones éticas y facilitando ciberataques incluso a no expertos, aunque algunos servicios resultan ser fraudes.

Un actor de amenazas llamado Jinkusu vende un kit de fraude con Deep Fakes e IA para burlar sistemas KYC en plataformas cripto y bancos, usando intercambio de caras en tiempo real y modulación de voz. Expertos advierten que la IA facilita el fraude de identidad sintética, obligando a adoptar seguridad por capas. Jinkusu también está vinculado al kit de phishing Starkiller, que roba credenciales mediante proxies inversos.

Trabajadores son grabados durante horas para crear modelos de IA usados en estafas deepfake, realizando hasta 100 videollamadas al día en condiciones inquietantes.

YouTube amplía su sistema de detección de deepfakes para combatir el creciente riesgo de vídeos falsos generados con IA que amenazan el debate público, mejorando herramientas para identificar contenidos manipulados con mayor precisión.