Google actualiza Gemini para mejorar sus respuestas en crisis de salud mental, incorporando recursos como líneas de ayuda y soluciones ante riesgos de autoflagelo o suicidio.

Google acaba de actualizar Gemini para que ofrezca mejores respuestas al momento de lidiar con crisis de salud mental. Los de Mountain View han dotado al chatbot con recursos para conectar a los usuarios con líneas de ayuda u otras soluciones, si detecta que existe un potencial peligro de autoflagelo o suicidio.

Lo primero que hará Gemini cuando detecte que existe un posible escenario de crisis de salud mental será mostrar una burbuja informando que hay ayuda disponible. La misma permitirá llamar a una línea de asistencia, así como enviar un mensaje de texto, ingresar a un sitio web relacionado o chatear con una persona en directo.

La nueva interfaz de Gemini con recursos de salud mental continuará disponible durante el resto de la conversación, como una manera de incentivar a las personas a buscar ayuda. Desde Google reconocen que los chatbots de inteligencia artificial son cada vez más usados para buscar información sobre temas de salud, pero que no reemplazan a los profesionales del rubro.

"Si bien Gemini puede ser una herramienta útil para aprender y obtener información, no sustituye la atención clínica profesional, la terapia ni el apoyo en situaciones de crisis para quienes lo necesitan. Por ello, hemos estado entrenando el modelo para que ayude a reconocer cuándo una conversación podría indicar que una persona está atravesando una crisis de salud mental aguda y, de esta manera, responder adecuadamente derivándola a la ayuda profesional que necesita", explica la compañía.

Google mejora las respuestas de Gemini en situaciones de crisis de salud mental

Google también ha implementado nuevas protecciones en Gemini pensando en los usuarios más jóvenes. Entre ellas, impedir que el chatbot se comporte de una forma que les haga creer que se trata de un acompañante humano o con características humanas. Asimismo, la compañía pretende evitar la generación de una dependencia emocional, por lo que va a evitar el uso de lenguaje que simule algún tipo de intimidad o apego.

Más allá de la utilidad que representa contar con mejores recursos de salud mental, Google también está mejorando las herramientas de Gemini tras quedar en el ojo de la tormenta por la muerte de un usuario. A comienzos de marzo, familiares de un hombre de 36 años demandaron a la firma de Mountain View, acusando a su chatbot de inteligencia artificial de haberlo inducido a cometer una serie de actos violentos que terminaron con su suicidio.

En el anuncio de hoy, Google también se ha comprometido a invertir 30 millones de dólares en los próximos tres años para expandir la capacidad de las líneas de asistencia para casos de salud mental en todo el mundo.