• España implementa una nueva legislación sobre Inteligencia Artificial que contempla multas severas, las cuales podrían alcanzar los 35 millones de euros.
• El objetivo principal de este marco legal es proteger los derechos de los ciudadanos y garantizar que el desarrollo de estas tecnologías se realice bajo estándares éticos, evitando así posibles abusos o fallos en los modelos de IA.

La ley que regulará completamente todo lo que conocemos sobre la inteligencia artificial en España está ya a punto de salir del horno, a falta de que se presenten alegaciones y se vote definitivamente en el Congreso de los Diputados.

Este proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial es una obligación para adaptar la normativa europea que lleva en vigor desde 2024, en un terreno que recuerda a lo que ya ocurrió con la protección de datos personales de usuarios europeos y las transferencias entre Estados con distinta legislación.

Aunque hay quien considera que esta norma puede llegar algo tarde y sin regular algunas cuestiones, "las cosas de palacio van despacio", y se requieren plazos específicos para que la ley entre en vigor. Lo más seguro en tal caso es que su aplicación efectiva no termine llegando hasta 2027, dependiendo de la fecha de votación y su publicación.

En la actualidad, el Gobierno de España ha presentado la normativa para que reciba alegaciones, así que es más que probable que esta norma se extienda, por ende, más allá del verano; en todo caso, tendrá que cumplir con lo que exige Europa en materia de IA.

Quizá el mayor cambio que ha sufrido este proyecto desde sus inicios es lo referente al uso de la IA en el sector público, ya que ahora se ha introducido la figura del delegado de IA, que ha de tener conocimientos específicos y será el responsable de garantizar la buena aplicación de la ley.

Sea como sea, esta normativa también se ha posicionado como una de las más sancionadoras, con multas que en el peor de los casos pueden ascender hasta los 35 millones de euros.

España, un país crucial para la ley de IA europea

En numerosas intervenciones, el Gobierno de España, con su cara más visible en Pedro Sánchez, ha plantado cara a los dueños de los grandes modelos de IA, como puede ser Elon Musk, el primer billonario de la historia.

A nivel europeo, la legislación referente a la inteligencia artificial ha sido aprobada con el consenso que requiere por parte de los Estados miembros, aunque España y Francia han sido los países que más han cambiado el texto final, para evitar que se produzcan hechos como los ocurridos con Grok.

Este modelo, el perteneciente a X, propiedad de Musk, acumula numerosas críticas –y demandas– por permitir su uso para la generación de imágenes totalmente prohibidas, como las de personas menores de edad desnudas.

Para responder a esto, España y Francia impulsaron en la UE un nuevo acuerdo, aprobado el 7 de mayo de este mismo año, con el objetivo de prohibir expresamente prácticas relacionadas con la generación de deepfakes sexuales o pornografía infantil.

Es un punto vital visto lo visto, con lo cual la normativa europea ya contempla sanciones importantes para quienes creen o distribuyan este tipo de contenido, además de para las empresas responsables del modelo de IA.

Concretamente, las empresas privadas que incumplan la nueva normativa de IA podrían recibir multas de 35 millones de euros o del 7% de su facturación a nivel mundial, en caso de que incumplan la misma.

En comparación con el RGPD, la normativa europea dedicada a la protección de datos, supone una gran diferencia, ya que las sanciones más graves pueden superar los 300.000 euros y alcanzar los 20 millones, aunque no suele ser lo habitual.

Con estas cantidades, tanto España como Europa intentan poner un escudo económico ante los potenciales incumplimientos del uso ético –y legal– de herramientas y modelos de IA que no paran de proliferar.

La AESIA, el máximo responsable de que se cumpla esta normativa

Al igual que ocurre en otros ámbitos, para supervisar que todo se lleve a cabo de forma ética y responsable, en esta ocasión la responsable es la Agencia Española de Supervisión de Inteligencia Artificial (AESIA).

Esta depende de la presidencia de la Secretaría de Estado de Digitalización e Inteligencia artificial y está directamente financiado por España gracias a los fondos NetxGenerationEU.

Ahora bien, en todo lo que tiene que ver con apartados como las identificaciones biométricas o el tratamiento de los datos, la responsabilidad recae sobre la Agencia Española de Protección de Datos (AEPD).

Asimismo, lo referente a la vigilancia recae sobre el Consejo General del Poder Judicial (CGPJ), el organismo que actuará como autoridad para los sistemas que se utilicen en la Administración de Justicia, algo también a tener en cuenta.

Ambas son piezas fundamentales para la correcta aplicación de la normativa en España, ya que hay aspectos muy importantes para no vulnerar los derechos fundamentales de los ciudadanos.

Por ejemplo, ni la policía ni otra institución que forme parte de las fuerzas de seguridad del Estado pueden exigir la identificación biométrica en tiempo real de ningún ciudadano, a no ser que exista una autorización judicial previa, que en cualquier caso deberá ser resuelta por un juzgado contencioso-administrativo, en un plazo máximo de 48 horas.

Más allá de esto, esta normativa inaugura el concepto del derecho a la desconexión –de la misma forma que ya se hizo con el derecho al olvido–, un término que no tiene que ver con la jornada laboral, sino con la desconexión de sistemas de IA que vulneren gravemente las normas.

Básicamente, esta nueva legislación anticipa que un modelo pueda escaparse al control ético de los seres humanos, como ya ha ocurrido en algún que otro caso, incluso entre las grandes compañías privadas que dominan el mercado.