Tienda Wifi

Tienda Wifi
CiudadWireless es la tienda Wifi recomendada por elhacker.NET

Entradas Mensuales

Síguenos en:

Canal Oficial Telegram de elhacker.NET Grupo Facebook elhacker.NET Twitter elhacker.NET Canal Youtube elhacker.NET Comunidad Steam: Grupo elhacker.NET Mastodon

Entradas populares

PostHeaderIcon El CEO de ChatGPT dice en el Senado de EE.UU que «La IA puede causar un daño significativo al mundo»


El CEO de OpenAI afirma que la IA puede causar un daño significativo. Todo el mundo está poniendo el grito en el cielo, todos ven que esto se puede descontrolar y que una vez que pase, ya no habrá vuelta atrás. Por primera vez en la historia, una industria tecnológica puntera ha pedido declarar voluntariamente ante sus políticos para que lancen leyes y normas para acotar y encauzar una tecnología en la que ellos mismos invierten miles de millones de dólares.



  • "Mi peor pesadilla: que la industria tecnológica cause un daño notable al mundo", confiesa el CEO de OpenAI en el Senado de EEUU

Suena casi a apocalíptico: una empresa pidiendo regulación de un sector por explotar que generará miles de millones de beneficios a futuro. Tremebundo como poco. El CEO de OpenAI, Sam Altman, creador de ChatGPT y sus modelos, testificó ayer con otros dirigentes de empresas ante el Senado de EE.UU. sobre los peligros potenciales de lo que está haciendo su industria.



Las declaraciones son reveladoras:

“Creemos que la intervención regulatoria de los gobiernos será fundamental para mitigar los riesgos de modelos de IA cada vez más poderosos”, dijo Altman. "Por ejemplo, el gobierno de EE. UU. podría considerar una combinación de requisitos de "licencia y prueba" para el desarrollo y lanzamiento de modelos de IA por encima de un umbral de capacidades.

Además, dado que nos enfrentaremos a unas elecciones el próximo año y estos modelos están mejorando, creo que esta es un área importante de preocupación... Creo que alguna regulación sería bastante sabia sobre este tema. Me preocupa que la industria de la IA pueda causar un daño significativo al mundo".

Los peligros

Además de esa agencia, que operaría en el ámbito de los EE. UU., Altman abordó explícitamente un paralelismo que ya ha utilizado otras veces: el de una agencia internacional que regule la IA del mismo modo en que la Agencia Internacional de la Energía Atómica se encarga de lo nuclear.



"Mis peores temores son que nosotros, la industria tecnológica, causemos un daño significativo al mundo".

"Si esta tecnología sale mal, puede salir bastante mal. […] Queremos trabajar con las instituciones para evitar que eso suceda", dijo Altman, quien también reconoció que "habrá un impacto sobre los empleos, tratamos de ser muy claros con respecto a eso". Sin embargo, también dijo estar seguro de que la IA será la puerta para que aparezcan "empleos mejores" y que tiene potencial para ser algo "tan grande como la imprenta".

Christina Montgomery, directora de privacidad y confianza de IBM, también tuvo su momento para declarar, y no fue mucho menos directa que Altman:

"IBM insta al Congreso a adoptar un enfoque de regulación con precisión para la IA", dijo Montgomery. "Esto significa establecer reglas para regir el despliegue de la IA en casos de uso específicos, sin regular la tecnología en sí. Se deben imponer reglas diferentes para diferentes riesgos, con las reglas más estrictas aplicadas a los casos de uso con los mayores riesgos para las personas y la sociedad".

Es decir, mayor riesgo de que la IA se descontrole o se haga un mal uso de ella, mayores reglas y más duras. Pero Montgomery fue más allá y habló de un tema tan controvertido como en hecho de engañar a las personas para que interactúen con sistemas de IA:

"Ninguna persona en ningún lugar debe ser engañada para que interactúe con un sistema de IA... La era de la IA no puede ser otra era de moverse rápido y romper cosas"

Aquí entran varios aspectos, como el hecho de que un usuario no sepa, por ejemplo, si este artículo es redactado por un servidor o por una IA. No especificarlo incurre en un posible engaño a las personas que lo estáis leyendo en este momento, por lo que IBM pide regularlo también.

Fuentes:
https://www.genbeta.com/actualidad/ia-sale-mal-puede-salir-bastante-mal-afirmo-ceo-openai-senado-eeuu-fondo-conchabeo-normativo

https://elchapuzasinformatico.com/2023/05/ia-dano-mundo-ee-uu/


0 comentarios :

Publicar un comentario

Los comentarios pueden ser revisados en cualquier momento por los moderadores.

Serán publicados aquellos que cumplan las siguientes condiciones:
- Comentario acorde al contenido del post.
- Prohibido mensajes de tipo SPAM.
- Evite incluir links innecesarios en su comentario.
- Contenidos ofensivos, amenazas e insultos no serán permitidos.

Debe saber que los comentarios de los lectores no reflejan necesariamente la opinión del STAFF.