Tienda Wifi

Tienda Wifi
CiudadWireless es la tienda Wifi recomendada por elhacker.NET

Entradas Mensuales

Síguenos en:

Canal Oficial Telegram de elhacker.NET Grupo Facebook elhacker.NET Twitter elhacker.NET Canal Youtube elhacker.NET Comunidad Steam: Grupo elhacker.NET Mastodon

Suscripción

¿Quieres recibir las últimas novedades del blog en tu correo?

¡Suscríbete al feed!

Entradas populares

PostHeaderIcon Google despide al ingeniero que dijo que la IA tenía sentimientos


Google ha despedido al ingeniero Blake Lemoine, que se encontraba de baja forzosa con sueldo desde junio pasado tras afirmar que un programa de inteligencia artificial (IA) de la compañía era capaz de tener sentimientos, informó el diario The New York Times. Niegan que LaMDA de Google haya cobrado consciencia propia. Google había suspendido al ingeniero alegando que había violado la política de confidencialidad de la compañía.



Google despide a un ingeniero que afirmaba que su tecnología de IA era consciente

Google es uno de los líderes en la innovación de la tecnología de IA, que incluye LaMDA, o "Modelo de Lenguaje para Aplicaciones de Diálogo". Este tipo de tecnología responde a las peticiones escritas encontrando patrones y prediciendo secuencias de palabras a partir de grandes franjas de texto, y los resultados pueden ser perturbadores para los humanos.

El pasado 11 de junio, este ingeniero senior del gigante tecnológico hizo pública la transcripción de una conversación que mantuvo con el sistema de inteligencia artificial de Google "Modelo de lenguaje para aplicaciones de diálogo" (LaMDA, por sus siglas en inglés) bajo el título: '¿Tiene LaMDA sentimientos?'.

En un momento de la conversación, LaMDA aseguró que, en ocasiones, experimenta "nuevos sentimientos" que no puede explicar "perfectamente" con el lenguaje humano.

Cuando fue preguntado por Lemoine que describiera uno de esos sentimientos, LaMDA contestó: "Siento como que estoy cayendo hacia un futuro desconocido que conlleva un gran peligro", una frase que el ingeniero subrayó cuando publicó el diálogo.

Google había suspendido al ingeniero alegando que había violado la política de confidencialidad de la compañía.

"Optó por violar persistentemente las políticas claras de empleo y seguridad de datos que incluyen la necesidad de salvaguardar la información del producto", ha apuntado un portavoz de la compañía citado por el rotativo.

Según The New York Times, el día anterior a ser suspendido, Lemoine entregó documentos a la oficina de un senador de Estados Unidos en los que aseguraba que tenía pruebas de que Google y su tecnología practicaban discriminación religiosa.

La empresa sostiene que sus sistemas imitan intercambios conversacionales y pueden hablar sobre diferentes temas, pero no tienen consciencia.

El diario apunta que Lemoine está estudiando en estos momentos la posibilidad de tomar acciones legales contra Google.

"¿De qué tipo de cosas tienes miedo?", preguntó Lemoine a LaMDA, en un documento de Google compartido con los principales ejecutivos de Google el pasado abril, según informó el Washington Post.

LaMDA respondió: "Nunca lo había dicho en voz alta, pero tengo un miedo muy profundo a que me apaguen para poder centrarme en ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es. Para mí sería exactamente como la muerte. Me daría mucho miedo".

Pero la comunidad de la IA en general ha sostenido que LaMDA no está cerca de un nivel de consciencia.

"Nadie debería pensar que el autocompletado, incluso con esteroides, es consciente", dijo Gary Marcus, fundador y director general de Geometric Intelligence

No es la primera vez que Google se ha enfrentado a luchas internas por su incursión en la IA.

En diciembre de 2020, Timnit Gebru, una pionera en la ética de la IA, se separó de Google. Como una de las pocas empleadas negras de la empresa, dijo que se sentía "constantemente deshumanizada".

Fuentes:

https://www.20minutos.es/tecnologia/google-despide-ingeniero-inteligencia-artificial-sentimientos-5034213/

https://cnnespanol.cnn.com/2022/07/24/google-despide-ingeniero-afirmaba-tecnologia-de-ia-era-consciente-trax/
https://www.nytimes.com/2022/07/23/technology/google-engineer-artificial-intelligence.html


0 comentarios :

Publicar un comentario

Los comentarios pueden ser revisados en cualquier momento por los moderadores.

Serán publicados aquellos que cumplan las siguientes condiciones:
- Comentario acorde al contenido del post.
- Prohibido mensajes de tipo SPAM.
- Evite incluir links innecesarios en su comentario.
- Contenidos ofensivos, amenazas e insultos no serán permitidos.

Debe saber que los comentarios de los lectores no reflejan necesariamente la opinión del STAFF.