Esta semana, el prestigioso fabricante italiano de automóviles Ferrari se ha convertido en el objetivo de un sofisticado intento de estafa basado en el uso de inteligencia artificial, un caso del "fraude del CEO", que involucraba el uso de deepfake para suplantar al CEO de la compañía, Benedetto Vigna, en un intento por engañar a otro directivo y así comprometer la seguridad financiera de la empresa.

Tres menores, de entre 14 y 17 años, han sido detenidos por distribuir fotografías de carácter sexual falsas, manipuladas a través de una aplicación, de 13 chicas menores de edad en grupos de redes sociales. Las víctimas tienen entre 13 y 14 años, según ha informado un portavoz de Guardia Civil a Madrid Total.

La aparición de los primeros sistemas de generación de vídeo por IA capaces de proporcionar resultados verosímiles va a provocar verdaderos quebraderos de cabeza tantos para redes sociales como para plataformas de vídeo. Meta tiene ahora mismo un problema realmente serio con este tipo de contenidos, y antes de que llegue a ese punto, YouTube ha modificado sus normas para facilitar la retirada de vídeos que muestren rostros o voces imitados mediante IA.

Durante los últimos 18 meses, más o menos, parece que hemos perdido la capacidad de confiar en nuestros ojos. Las falsificaciones de Photoshop no son nada nuevo, por supuesto, pero la llegada de la inteligencia artificial (IA) generativa ha llevado la falsificación a un nivel completamente nuevo. Quizás la primera falsificación de IA viral fue la imagen del Papa en 2023 con una chaqueta acolchada blanca de diseño, pero, desde entonces, el número de engaños visuales de alta calidad se ha disparado a muchos miles. Y, a medida que la IA se desarrolle aún más, podemos esperar más y más vídeos falsos convincentes en un futuro muy cercano.

 La unidad de inteligencia de amenazas de Microsoft acaba de publicar un informe en el que revela que piratas informáticos vinculados a China han comenzado a servirse de inteligencia artificial generativa para amplificar cuestiones internas controvertidas en países como EE.UU y Taiwán.

YouTube anunció que etiquetará el contenido generado por inteligencia artificial. En un intento por frenar los deepfakes y la desinformación, la compañía activó una opción en el panel de YouTube Studio que permite señalar el contenido alterado. Los creadores deberán revelar si el video incluye material sintético que el espectador podría confundir con algo real.

El empleado de una empresa, indica que hacía unos días habían recibido una llamada supuestamente de uno de los principales CEO de la empresa, en la cual solicitaba una reunión telefónica con algunos empleados.

Google, Meta y OpenAI han anunciado en los últimos días distintas medidas para que sea más fácil identificar imágenes o archivos que han sido producidos o retocados con inteligencia artificial (IA). Estas iniciativas se enmarcan en el temor a que la difusión indiscriminada de mensajes falsos condicione los resultados de elecciones o tenga otras consecuencias inesperadas. Las tres compañías ya habían anunciado que tratarán de impedir el uso de la IA en los procesos electorales de 2024.

Un empleado de una compañía financiera hongkonesa transfirió recientemente 23,7 millones de euros a lo que él creía que era la filial de su empresa en el Reino Unido. Los estafadores usaron la tecnología deepfake para hacerse pasar por el director financiero y otros colegas en una videoconferencia, según ha informado la policía de Hong Kong.

Un líder del departamento de IA de Microsoft afirma que DALL-E 3, de OpenAI, cuenta con vulnerabilidades que permiten a los usuarios crear imágenes sexualmente explícitas similares a las de Taylor Swift que se viralizaron hace unos días. Según recoge GeekWire, el ingeniero, Shane Jones, quiso informar públicamente de este problema, pero el equipo legal de la compañía lo impidió.

 Microsoft está tomando medidas para evitar que los usuarios puedan generar imágenes sexualmente explícitas mediante IA de Taylor Swift y otras celebridades, después de que 404 Media descubierta que las fotos virales de la cantante se han creado mediante Designer, una herramienta que permite generar imágenes mediante una breve descripción de texto.

«Taylor Swift AI» se convirtió en tendencia en X (Twitter), luego de que se difundieran fotos falsas sexualmente explícitas de la cantante. El caso evidencia una práctica violenta que no solo apunta contra famosas y que crece desde hace años.

 La inteligencia artificial, al tener tantos vertientes distintos, ha tocado muchos aspectos de la vida cotidiana. En los últimos años hemos visto en España imágenes tan distópicas como perros autónomos robot apoyando a policías e incluso deepfakes para resolver casos policiales. La última y más sorprendente implica a un departamento de policía que habría usado una muestra de ADN para emular el rostro de un sospechoso y para luego aplicarle reconocimiento facial.

Nikon, Sony y Canon se aliaron para combatir las imágenes falsas generadas con inteligencia artificial. Empresas de fotografía, organizaciones de noticias y tecnológicas cerraron filas para desarrollar una tecnología de autenticación que permita identificar deepfakes.

La tecnología deepfake representa un avance transformador en inteligencia artificial y manipulación digital, de esta manera, se pueden crear vídeos o imágenes falsas en menos de un minuto. En el caso de la pornografía, esta práctica vulnera la normativa de protección de datos.

Los pequeños artistas no son los únicos que se han visto afectados por la IA. Las malas prácticas de las compañías han llegado también hasta los grandes de la industria. Este es el caso de Stephen Fry, una de las voces británicas más reconocibles, y que además ha sido víctima de robo por parte de la inteligencia artificial.

DeepNude es una aplicación que utiliza inteligencia artificial y redes neuronales para eliminar la ropa de imágenes de mujeres y recrear desnudos ultra realistas. Se trata de una evolución de los llamados 'Deep Fakes', un nuevo algoritmo que nos anticipa el gran potencial que tiene esta tecnología así como su impacto en la sociedad.

Esta primavera, Clive Kabatznik, un inversor de Florida, llamó a su representante local de Bank of America para hablar de una gran transferencia de dinero que pensaba hacer. Luego volvió a llamar. Excepto que la segunda llamada no era de Kabatznik. En su lugar, un programa informático había generado de manera artificial su voz e intentó engañar a la empleada del banco para que transfiriera el dinero a otro destino.

Google ha dado un paso en su estrategia por transparentar el contenido creado por inteligencia artificial. El gigante tecnológico anunció SynthID, una herramienta que añade una marca de agua digital a las imágenes generadas por IA, lo que las permitirá identificar con facilidad.

La explosión de la inteligencia artificial en los últimos meses ha tomado a muchos por sorpresa. Si bien las IA generativas como ChatGPT o Midjourney representan un cambio de paradigma, algunos anticipan que esta tecnología traerá más problemas que beneficios. La idea de que actores maliciosos utilicen los deepfakes para montar campañas de desinformación es una preocupación latente de los reguladores y empresas.