Suena casi a apocalíptico: una empresa pidiendo regulación de un sector por explotar que generará miles de millones de beneficios a futuro. Tremebundo como poco. El CEO de OpenAI, Sam Altman, creador de ChatGPT y sus modelos, testificó ayer con otros dirigentes de empresas ante el Senado de EE.UU. sobre los peligros potenciales de lo que está haciendo su industria.

Las declaraciones son reveladoras:

“Creemos que la intervención regulatoria de los gobiernos será fundamental para mitigar los riesgos de modelos de IA cada vez más poderosos”, dijo Altman. "Por ejemplo, el gobierno de EE. UU. podría considerar una combinación de requisitos de "licencia y prueba" para el desarrollo y lanzamiento de modelos de IA por encima de un umbral de capacidades.

Además, dado que nos enfrentaremos a unas elecciones el próximo año y estos modelos están mejorando, creo que esta es un área importante de preocupación... Creo que alguna regulación sería bastante sabia sobre este tema. Me preocupa que la industria de la IA pueda causar un daño significativo al mundo".

Los peligros

Además de esa agencia, que operaría en el ámbito de los EE. UU., Altman abordó explícitamente un paralelismo que ya ha utilizado otras veces: el de una agencia internacional que regule la IA del mismo modo en que la Agencia Internacional de la Energía Atómica se encarga de lo nuclear.

"Mis peores temores son que nosotros, la industria tecnológica, causemos un daño significativo al mundo".

"Si esta tecnología sale mal, puede salir bastante mal. […] Queremos trabajar con las instituciones para evitar que eso suceda", dijo Altman, quien también reconoció que "habrá un impacto sobre los empleos, tratamos de ser muy claros con respecto a eso". Sin embargo, también dijo estar seguro de que la IA será la puerta para que aparezcan "empleos mejores" y que tiene potencial para ser algo "tan grande como la imprenta".

Christina Montgomery, directora de privacidad y confianza de IBM, también tuvo su momento para declarar, y no fue mucho menos directa que Altman:

"IBM insta al Congreso a adoptar un enfoque de regulación con precisión para la IA", dijo Montgomery. "Esto significa establecer reglas para regir el despliegue de la IA en casos de uso específicos, sin regular la tecnología en sí. Se deben imponer reglas diferentes para diferentes riesgos, con las reglas más estrictas aplicadas a los casos de uso con los mayores riesgos para las personas y la sociedad".

Es decir, mayor riesgo de que la IA se descontrole o se haga un mal uso de ella, mayores reglas y más duras. Pero Montgomery fue más allá y habló de un tema tan controvertido como en hecho de engañar a las personas para que interactúen con sistemas de IA:

"Ninguna persona en ningún lugar debe ser engañada para que interactúe con un sistema de IA... La era de la IA no puede ser otra era de moverse rápido y romper cosas"

Aquí entran varios aspectos, como el hecho de que un usuario no sepa, por ejemplo, si este artículo es redactado por un servidor o por una IA. No especificarlo incurre en un posible engaño a las personas que lo estáis leyendo en este momento, por lo que IBM pide regularlo también.

Fuentes:
https://www.genbeta.com/actualidad/ia-sale-mal-puede-salir-bastante-mal-afirmo-ceo-openai-senado-eeuu-fondo-conchabeo-normativo

https://elchapuzasinformatico.com/2023/05/ia-dano-mundo-ee-uu/