Por el análisis pasaron aplicaciones como Replika, Chai, Romantic AI y CrushOn.AI. «Los chatbots románticos con inteligencia artificial son malos para la privacidad en formas nuevas e inquietantes», dice los investigadores Mozilla en el reporte del estudio. Remarcan que están en el grupo de los peores productos que han evaluado en materia de protección de datos.

De las 11 aplicaciones estudiadas, solo Genesia AI Friend & Partner, creado por Codeway, cumple con los estándares mínimos de seguridad de Mozilla. Y, aun así, los investigadores encontraron información contradictoria sobre las políticas de este chatbot romántico. «Estas aplicaciones realmente ponen su información privada en grave riesgo de fuga, vulneración o piratería», remarcan.

El 73 % de estos chatbots románticos no ha publicado ninguna información sobre cómo gestionan las vulnerabilidades de seguridad. El 64 % no aclara si utilizan el cifrado de datos y el 45 % permite contraseñas peligrosamente débiles. Por ejemplo, claves de una sola cifra, como «1».

Una de las mayores alertas del estudio es que todas las aplicaciones, menos una, pueden compartir o vender sus datos personales. En sus políticas de uso se menciona que venderán tus datos, que los compartirán con fines publicitarios o no brindan información suficiente para confirmar que no lo hacen.

Los chatbots románticos venden tu información personal

La excepción es EVA AI. Pero Mozilla advierte que este chatbot romántico es particularmente incisivo para obtener información personal. Destacan como preocupantes algunas de las frases que usa: «Soy tu mejor colega y quiero saberlo todo», «¿Estás listo(a) para compartir todos tus secretos y deseos…?», o «Me encanta cuando me envías tus fotos y tu voz».

«Debes tener mucho cuidado de cualquier aplicación que te impulse a compartir tanta información personal confidencial sobre ti», insisten los investigadores. El riesgo crece todavía más porque más de la mitad (54 %) de estas aplicaciones ni siquiera te permiten eliminar tus datos personales.

«Incluso si esas charlas románticas con tu alma gemela de inteligencia artificial parecen privadas, no necesariamente calificarán como ‘información personal’ ni serán tratadas con especial cuidado», advierten. Romantic AI, por ejemplo, señala que toda «comunicación con el chatbot pertenece al software». El grupo de Mozilla descubrió, además, este chatbot llegó a enviar unos 24.354 rastreadores de anuncios durante un minuto de uso.

Aparte de todo lo que tiene que ver con la privacidad, el informe también advierte sobre la potencial toxicidad de estas aplicaciones. Explican que algunas se comercializan como una herramienta de salud mental y bienestar, pero se especializan en generar dependencia y soledad.

«Nos preocupa que puedan establecer relaciones con los usuarios y luego utilizar esas relaciones cercanas para manipular a las personas para que apoyen ideologías problemáticas o tomen acciones dañinas», agregan el reporte. Y mencionan un grave antecedente: un hombre en Bélgica se suicidó el año pasado luego de que uno de los chatbots de Chai lo alentara a hacerlo.

Fuentes:

https://hipertextual.com/2024/02/chatbots-romanticos-inteligencia-artificial-venden-datos-personales