La Comisión Europea anunció oficialmente la semana pasada la inauguración del Centro Europeo para la Transparencia Algorítmica (ECAT), en Sevilla. Su objetivo es evaluar posibles riesgos sistémicos derivados de las grandes plataformas y motores de búsqueda online e investigar el impacto a largo plazo de los algoritmos.

•  La Ley de Servicios Digitales, que entró en vigor el pasado noviembre en Europa, habla de la necesidad de un control de algoritmos, entre los que se encuentran los de IA.

El interés por la inteligencia artificial se disparó a finales del año pasado, tras el lanzamiento gratuito de ChatGPT-3 de OpenAI y la posterior llegada de otros servicios que trataban de imitarlo. La era de la IA, llamada así por el propio Bill Gates, de Microsoft, comenzó en los últimos meses de 2022, coincidiendo con la entrada en vigor de la Ley de Servicios Digitales de la Unión Europea.

En el marco de la normativa, la Comisión Europea anunció oficialmente la semana pasada la inauguración del Centro Europeo para la Transparencia Algorítmica (ECAT), en Sevilla. Su objetivo es evaluar posibles riesgos sistémicos derivados de las grandes plataformas y motores de búsqueda online e investigar el impacto a largo plazo de los algoritmos.

Inicialmente, ECAT estará formado por 30 investigadores, de los cuales el 65% operarán desde Sevilla, según el medio de comunicación El Diario de Sevilla. El resto se espera que trabajen desde Ispra (Italia) y desde Bruselas. El equipo estará conformado por científicos de datos, expertos en IA, científicos sociales y expertos legales.

¿De qué se encargará ECAT?

En concreto, el nuevo centro detalla que su propósito es "crear un entorno en línea más seguro, previsible y fiable para las personas y las empresas" para cumplir con la Ley de Servicios Digitales, puesta en marcha el 16 de noviembre de 2022. La edificación tiene su sede en el Centro Común de Investigación de la Comisión Europea, ubicado en Sevilla.

Según el comunicado sobre ECAT, realizará análisis técnicos y evaluaciones de algoritmos, basándose en informes de transparencia y autoevaluación de riesgos de las empresas designadas, y evitarán la propagación de contenido ilegal y la desinformación. Además, propondrán mejores prácticas para mitigar su impacto negativo en la sociedad, como la vulneración de la libertad de expresión y de la protección de los menores en la web.

De este modo, con ECAT, esperan "abrir las cajas negras de los algoritmos" para analizar sus riesgos y supervisar que las plataformas digitales y los motores de búsqueda son transparentes con lo que prometen. Para hacerlo, los investigadores del centro proporcionarán asistencia técnica y orientación práctica.

Por otro lado, contactarán con otras organizaciones y profesionales y actuarán como "un catalizador para generar conocimiento a través de distintas metodologías y sistemas de evaluación", según Stephen Quest, director del Centro Común de Investigación. Así, Europa podrá anticiparse y no improvisar en el control de IA, un ámbito cada vez más amplio y con muchas incógnitas todavía.

Aún se desconoce lo que la inteligencia artificial puede llegar a ser en el futuro, sin embargo, la desinformación y los sesgos que puede haber detrás pueden suponer grandes riesgos a la larga para los usuarios. Por el ejemplo citado y otros muchos problemas que van a surgir con la IA, es crucial que las firmas detrás de dichas herramientas estudien sus posibles consecuencias y sean transparentes al respecto.

Renate Nikolay, en la presentación del ECAT, señaló la importancia de "mirar a los riesgos sistémicos", ya que el impacto de los algoritmos se ha vuelto algo "público y social". Mediante la creación del centro, se espera que estos inconvenientes se mitiguen y esto equivaldría al cumplimiento de más derechos para las personas.

Carme Artigas, secretario de Estado de Digitalización e Inteligencia Artificial en España, apuntó que ECAT permitirá supervisar derechos fundamentales como el de "no ser discriminado por un algoritmo" o el de "tener una segunda opinión humana cuando te rechazan un préstamo".

Gracias a ECAT, Europa pretende garantizar que los usuarios puedan conocer de manera clara los criterios en los que las plataformas se basan para recomendar cierto contenido en sus páginas de inicio. También servirá para que los europeos puedan decidir y escoger qué uso se va a hacer de sus datos y se señalizará mejor el contenido ilegal.

El ECAT estará operando desde el Centro Común de Investigación hasta que se terminen las obras de unas nuevas instalaciones propias en la ciudad andaluza. La edificación comenzará en 2024 y se estima que finalicen en 2027.

Fuentes:

https://www.20minutos.es/tecnologia/inteligencia-artificial/centro-europeo-transparencia-algoritmica-union-europea-sevilla-capital-evaluar-inteligencia-artificial-5122057/