Europa prohíbe la IA generadora de contenido sexual no consentido

• Gracias a una iniciativa impulsada por España mediante una Ley Ómnibus, el Parlamento Europeo y la Eurocámara han acordado prohibir los modelos de inteligencia artificial diseñados para crear deepfakes sexuales.
• Esta medida legal busca frenar el uso de aplicaciones que permiten generar imágenes de personas desnudas sin su consentimiento, clasificando estos sistemas como tecnologías de alto riesgo para la integridad y privacidad de los ciudadanos.

La Eurocámara y el Parlamento Europeo acaban de llegar a un acuerdo para prohibir los modelos de IA que permiten crear 'deepfakes' sexuales y las aplicaciones que permiten desnudar personas, tras una propuesta de España sobre los sistemas de IA de alto riesgo, a través de una Ley Ómnibus.

El cambio llega tras la enmienda que buscaba simplicar la reglas del nuevo marco regulatorio sobre las empresas y IA, y que fue introducida tras la polémica del año pasado con Grok y las imagenes de mujeres sexualizadas sin su consentimineto.

La propuesta de España, que al momento de su presentación contó con el apoyo de varios paises europeos, buscaba, principalmente prohibir aquellos sistemas de IA con la capacidad de "generar, manipular o reproducir" contenido audiovisual realista de carácter sexual, además, como es lógico, de poner freno a estas herramientas que se usan para generar pornografía infantil.

Los cambios regulatorios en materia de IA no solo prohiben los modelos que explicitamente permitan crear este tipo de "deepfakes" sexuales, también aquellos sistemas que, aunque no estén creados específicamente para crear estos contenidos, permitan hacerlo. No obstante, el marco regulatorio incluye una excepción para estos últimos: que incluyan “medidas de seguridad razonables para impedir dicha creación”.

Adiós a los "nudes" creados con IA

Y se prohibe directamente la entrada a los mercados europeos de este tipo de herramienta cuya única finalidad será la de generar este tipo de contenido sexual. La prohibición se aplica a la generación de todo tipo de contenido, incluyendo imágenes, vídeo o audio.

Como fecha, el acuerdo fija la prohibición de este tipo de herramientas tan pronto como el el 2 de diciembre de este año, aunque a cambio se han retrasado la entrega en vigor de varias disposiciones relativas a la IA de alto riesgo para dar más tiempo a los diferentes sectores de adaptarse a dicha normativa.

Además, también elimina algunas superposiciones como las normas especificas de algunos sectores que ahora quedarán fuera de la Ley de la IA. Y la aplicación de las obligaciones de marca de agua en el contenido generado por IA para la misma fecha (en lugar del 2 de febrero de 2027, como proponía la Comisión).