Hemos llegado a un punto donde los deepfakes e imágenes creadas por IA confunden a los ciudadanos e incluso a los medios. Se han encontrado imágenes de Donald Trump besando al Dr. Anthony Fauci o recientemente la explosión del Pentágono. El poder de la IA generativa cada vez genera más problemas cuando se quiere conseguir contenido real y veraz, evitando confundirlo con el creado por esta. Pero para varios estados de EE.UU. el mayor problema reside en los deepfakes IA que involucran contenido sexual.

Aquí emplean la cara de un famoso y la ponen en un cuerpo y vídeo con contenido explícito, creando una situación muy controvertida. 9 estados de EE.UU. ya han puesto en marcha el proceso de regulación de los deepfakes IA, ya que han promulgado leyes para controlarlos. Su objetivo es poder parar la aparición de aquellos que sean creados usando el contexto de la pornografía y la influencia electoral.

Acabar con los deepfakes será difícil, están por todo Internet

Mientras tanto, hay otros 4 estados que están preparando proyectos de ley para poder aprobarlos próximamente. Fue en 2017 cuando vimos los primeros deepfakes por IA en Internet que involucraban contenido explícito e inapropiado. Sin embargo, no fue hasta 2019 cuando los estados de California, Texas y Virginia empezaron a aprobar leyes para combatir a los deepfakes. Fue en este año, cuando Deeptrace Labs, identificó 15.000 vídeos deepfake de los cuales el 96% eran contenido subido de tono protagonizado por mujeres.

El problema es que eliminarlos de las redes no ha conseguido parar su proliferación. Como ya sabemos, este tipo de contenido puede propagarse por redes sociales y cualquier otro medio sin controlar, como las redes de mensajería. También preocupa a EE.UU. como se han aplicado los deepfakes a la hora de realizar campañas políticas y propagar noticias falsas y desinformación en Internet, por lo que esto es otro de los aspectos en que se aplicará la tan esperada regulación.

El mayor peligro de la IA son los ‘deepfakes’, asegura Microsoft  

De acuerdo con Smith, es necesario abordar los problemas relacionados con estas falsificaciones, principalmente en las operaciones de influencia extranjera. El presidente de Microsoft mencionó que países como Rusia, China o Irán sacarían provecho de la IA e instó a los legisladores a crear nuevas leyes para proteger la seguridad nacional. El directivo pidió a Washington que se tomen medidas para garantizar que las personas sepan reconocer los deepfakes y no caer en la trampa.

Donald Trump:

Joe Biden

Joe Biden de princesa durmiendo

Boris Johnson "detenido"

Elon Musk, un mendigo

Surgieron las imágenes del Papa Francisco

Presidente Francés Macron:

Kim Jong-un:

Fuentes:
https://elchapuzasinformatico.com/2023/06/ee-uu-regulacion-deepfakes-ia/

https://hipertextual.com/2023/05/el-mayor-peligro-de-la-ia-son-los-deepfakes-asegura-microsoft