• Stella Luna de María, especialista en tecnología, ha destacado los efectos de la nueva normativa europea sobre Inteligencia Artificial. A partir de ahora, las entidades bancarias, las administraciones y los servicios de atención al cliente tendrán la obligación de informar explícitamente al usuario si está interactuando con una IA o con una persona real.

Ahora es posible que llames a un banco o una compañía y en el servicio de atención al cliente te responda una inteligencia artificial, incluso cuando se trata de chats.

Aunque las empresas están haciendo esto para ahorrar dinero y automatizar tareas, ya se están viendo repercusiones negativas en ciertas zonas, como el Commonwealth Bank of Australia (CBA) de Australia tras despedir a 45 trabajadores.

Genera rechazo de parte de los clientes y a veces no es tan óptimo como interactuar con un verdadero ser humano. Ahora, la Unión Europea da un paso importante para reforzar la confianza digital y también la protección de los usuarios ante las compañías.

La Ley de Inteligencia Artificial de la Unión Europea, conocida como AI Act, marca un antes y un después en aspectos relacionados con la transparencia de los contenidos creados con inteligencia artificial, incluyendo deepfakes, según explica la experta Stella Luna de María.

Reclama tu derecho conociendo cómo se emplea esta normativa en la industria para no llevarte malos ratos al comunicarte con algún organismo.

La Unión Europea quiere que sepas cuándo hablas con una IA

Es posible que ya te hayas topado con servicio al cliente basado en inteligencia artificial y es que cada vez es más común. Stella Luna de María, experta en tecnología y CEO de Pentawar Consulting, explicó en una entrevista concedida al programa La Tarde de COPE que uno de los cambios más importantes en esta normativa es la obligación de informar cuando un usuario interactúe con una IA.

La mayoría de las empresas incorpora esta tecnología sin previo aviso para los clientes y eso es frustrante para muchas personas, ya que a veces las respuestas son genéricas.

Según señaló, "los servicios de atención al cliente, los bancos, las administraciones o la sanidad, deberán informar claramente de que el usuario está hablando con una inteligencia artificial" para evitar conflictos y seguir las directrices publicadas por la Comisión Europea para la aplicación del artículo 50 de la AI Act.

Esta regla determina que los sistemas de asistentes virtuales deben avisar con antelación. Cuando tu interlocutor es un chatbot, un asistente virtual o cualquier sistema automatizado, debería haber un mensaje con anticipación.

La especialista también recordó que esta regulación no surgió como reacción al auge de ChatGPT porque "la Comisión Europea presentó la primera propuesta en 2021, cuando todavía no había estallado la revolución de la IA generativa".

El reglamento europeo entró en vigor en agosto de 2024 y se está aplicando de forma gradual mediante diferentes fases, que se extenderán durante los próximos años a partir de ahora.

Más control sobre deepfakes, contenidos generados por IA y sanciones millonarias

Eso no es todo, pues ante esta nueva estrategia para distinguir entre contenido auténtico y material creado artificialmente, van a requerir de etiquetados de deepfakes y señales técnicas visibles para que cualquier persona pueda darse cuenta.

Stella Luna de María destacó que "a partir de diciembre de este año los contenidos manipulados con IA, sean textos, imágenes, vídeos o audios, tienen que incorporar una marca de agua o un mecanismo de identificación".

Por lo tanto, sería algo similar a la marca de agua que se encuentra en las imágenes y vídeos de Gemini. ¿Por qué se hace todo esto? Las autoridades han indicado que es para un bien social debido a que así se reducen las probabilidades de riesgos de desinformación, fraude o manipulación.

La experta también agregó que "queda prohibida expresamente la creación de imágenes sexualizadas por inteligencia artificial sin el conocimiento de la persona afectada" porque esto influye directamente en la privacidad y los derechos fundamentales.

¿Qué pasa si alguien incumple? En la normativa se deja claro que las sanciones "empiezan en los 15 millones de euros o el 3% de la facturación anual global". La magnitud de las multas para las grandes marcas y negocios pequeños serviría para motivar a que se lleven a cabo las obligaciones.

La experta considera que este marco regulatorio busca algo más que controlar la tecnología, porque la idea es que haya una confianza ante el uso de estas herramientas.

Como resumió durante la entrevista: "Todo el mundo tiene que saber qué es lo que está haciendo y la inteligencia artificial tiene que estar regulada".

Con esto, Europa empieza a tomar cartas sobre el asunto para evitar que en el futuro se presenten inconvenientes con respecto a la implementación de la IA.