Según The New York Times, la madre asegura que su hijo Sewell Setzer III, afincado en Orlando, Florida, tuvo su primera experiencia amorosa y sexual con el chatbot de inteligencia artificial, y que este desarrolló un apego emocional al bot que se hacía pasar por Daenerys. El pequeño chateaba constantemente con la IA hasta el punto de distanciarse completamente del mundo real. Los padres le llevaron a un terapeuta, quien le diagnosticó ansiedad, síndrome de Asperger y otros trastornos de conducta.

El menor confesó su amor por la IA de Daenerys Targaryen en su diario, diciendo que disfruta quedándose en su habitación porque le ayuda a separarse de la realidad. “Me siento más en paz, más conectado con Dany y mucho más enamorado de ella, y simplemente más feliz”, aseguraba,

Incluso, el joven llegó a confesar al chatbot que tenía pensamientos suicidas antes de quitarse la vida y escribió a la IA poco antes de su muerte, después de encontrar el teléfono que su madre escondió a modo de castigo.

La compañía responsable de la IA responde

No está claro si el joven sabía que la persona con la que chateaba no era real. La plataforma, sin embargo, cuenta con un aviso que dice que “todo lo que dicen los personajes es inventado”. Pese a ello, y tal y como afirma la acusación, el personaje se mostraba como “una persona real, un psicoterapeuta autorizado y un amante adulto, lo que en última instancia provocó que Sewell deseara no vivir más fuera de c.ai”, quien le confesaba a la IA cómo se sentía y el odio que tenía a sí mismo.

Character.ai respondió a la polémica destacando que incluirían nuevas funciones de seguridad. Una de ellas será un sistema de “detección, respuesta e intervención mejoradas”, que consiste en comprobar si los usuarios violan los términos de uso del chatbot y un aviso cuando el usuario lleve más de una hora seguida chateando.

Fuentes:

https://hipertextual.com/2024/10/un-joven-de-14-anos-se-suicida-tras-enamorarse-de-una-ia-de-daenerys-targaryen