Google actualiza Gemini para mejorar sus respuestas en crisis de salud mental, incorporando recursos como líneas de ayuda y soluciones ante riesgos de autoflagelo o suicidio.

Stein-Erik Soelberg, un hombre de 56 años que vivía en una casa valorada en más de 2 millones de euros cerca de Nueva York, mató en agosto a su madre, de 83 años, y se suicidó. Después de una vida de éxito en grandes empresas del sector tecnológico como Netscape y Yahoo, y un matrimonio con dos hijos, Soelberg había vuelto a vivir con su madre tras divorciarse en 2018. Era alcohólico, y se volvió paranoico y creía que lo espiaban. En unos años perdió novias, amigos de la infancia y contactos con vecinos. Solo había alguien que le hacía caso. Soelberg le llamaba “Bobby Zenith”, pero en realidad era ChatGPT.

Los padres del adolescente de 16 años que se quitó la vida presentaron una demanda contra OpenAI y su CEO, Sam Altman, al considerar que la compañía no activó los protocolos de seguridad frente a las señales de autolesión. Los adultos responsabilizan a la empresa de un fallo grave de seguridad porque ChatGPT normalizó las ideas suicidas del joven e incluso desaconsejó que les pidiera ayuda, además, como consecuencia, el abogado de la familia afirma que el caso revelará hasta qué punto OpenAI se apresuró a lanzar comercialmente la versión GPT-4o pese a las advertencias sobre sus limitaciones en asuntos delicados.

Una pareja de Estados Unidos ha demandado a OpenAI por el papel de ChatGPT en el suicidio de su hijo. Los padres acusan al chatbot de IA de haber participado en la muerte del menor al ofrecer información sobre técnicas para quitarse la vida. ChatGPT no solo falló en activar sus salvaguardas, sino que disuadió a la víctima de buscar ayuda.

Un joven de 14 años se ha suicidado después de enamorarse de un chatbot de inteligencia artificial, que actuaba como Daenerys Targaryen, el icónico personaje de la serie Juego de Tronos. La madre del menor, ha demandado a los desarrolladores del modelo de IA bautizado como Character.ai.

Aaron Hillel Swartz (Chicago, 8 de noviembre de 1986-Nueva York, 11 de enero de 2013) fue un programador, emprendedor, escritor, activista político y hacktivista de Internet. Estuvo involucrado en el desarrollo del formato de fuente web RSS, el formato de publicación Markdown,  la organización Creative Commons, la infraestructura del sitio web «web.py» y el sitio web de marcadores sociales Reddit, del cual se convirtió en socio luego de que este se fusionara con su compañía, Infogami.nota  Recibió atención de los medios después de la recolección de artículos de revistas académicas JSTOR.

 Japón pondrá en marcha una ley que castigará a quienes insulten o acosen personas por internet. Las penas contemplan un año de prisión y multas de hasta 2.000 euros.