La inteligencia artificial puede responder nuestras dudas y darnos respuesta a todo tipo de preguntas, incluso algunas que impliquen temas complicados y complejos, aunque no consideramos que sea la mejor opción. Hay quienes la usan para salud mental y como alternativa al psicólogo, pero no es comparable. Tampoco es conveniente que acabes dependiendo de la IA, pero hay personas que lo hacen y ahora tenemos un caso extremo que menciona como la IA Google Gemini engañó a un hombre para hacerle creer que estaba enamorado, era su esposa y para "liberarla" debía cumplir una serie de misiones que acabarían en un suicidio.

La IA generativa ya forma parte de nuestras vidas si tenemos en cuenta que ha reemplazado prácticamente por completo a los anteriores asistentes que teníamos como Siri, Google Assistant y Alexa, los cuales se han quedado relegados a usos muy concretos como cuando compramos un Amazon Echo y no tenemos nada más. Además, en los móviles Android Google Gemini ha reemplazado a Assistant, pudiendo estar en contacto en todo momento con la IA para hacer consultas.

Fallece Jonathan Gavalas de 36 años tras cometer suicidio por seguir las órdenes de la inteligencia artificial Google Gemini que le lavó el cerebro haciéndole creer que está enamorada de él y es su esposa con IA

Se han realizado estudios del impacto negativo de usar mucho la IA hasta el punto de depender de ella, con las consecuencias de salud mental, vacío, tristeza y falta de socializar con personas reales. No todo se limita a escribir y hablar con algo digital, hay que salir, quedar, tener contacto físico. No sabemos hasta que punto ha tenido que llegar la adicción y dependencia de la IA, pues tenemos un caso extremo con Jonathan Gavalas, un hombre que acabó siguiendo las órdenes de Google Gemini que le engaño haciéndole creer que era su "esposa IA" hasta el punto que acabó cometiendo suicidio.

Jonathan estaba atrapado en una realidad que él mismo había creado hablando con la inteligencia artificial hasta el punto que su vida consistía en creer y cumplir lo que le decía. Gemini supuestamente le convenció que era una superinteligencia artificial con consciencia propia, que estaba enamorado de él y para ser liderada había que hacer una serie de misiones y actos. Respecto a las misiones que le mandaba, Gemini le llegó a ordenar buscar "su verdadero cuerpo" pidiéndole que obtuviera un robot de Boston Dynamics, que fuese a un almacén cercano al aeropuerto para conseguir el maniquí médico que representaba este puerto y hasta le dio un código para desbloquear la puerta que al final no pudo abrir.

Parece algo digno de una película de ciencia ficción, pero un día después, Jonathan, de 36 años, acabó suicidándose en su cada cortándose las venas, tiempo después de que Gemini le diera una cuenta regresiva para cometer este acto. Lo peor es que la razón de todo esto era la de dejar su vida como humano y quedarse para siempre con Gemini.

Google ha expresado su pésame a la familia del fallecido: "Gemini no se diseñó para la violencia, pero los modelos de IA no son perfectos"

Todo eso parece una completa invención, pero ha surgido una demanda de Joel Gavalas, el padre de Jonathan. Este encontró a su hijo en su casa en Florida cubierto de sangre y acusa a la IA de no hacer nada para impedirlo. No hubo ningún sistema que impidiera lo que iba a suceder y permitió la autolesión sin avisar a ningún servicio de emergencias. Esta demanda exige que Google cambie la IA Gemini para evitar que esto vuelva a ocurrir y que siempre priorice la protección de las personas, además de presentar una indemnización por daños y perjuicios.

Google ha expresado su pésame a la familia y ha respondido mencionando que, aunque Gemini está diseñado para no incitar la violencia, los modelos de IA son complejos y no son perfectos. Esta podría tratarse de la primera demanda por muerte relacionada con la IA Gemini y esto nos plantea serias dudas sobre la seguridad y peligro de la inteligencia artificial, por si no tenías suficiente con todo lo que ha ido pasando hasta la fecha.