Grok, la IA de X (Twitter), prohibe generar imágenes de personas reales en semidesnudos o bikinis tras críticas y problemas judiciales.

Las polémicas se acumulan para X, la Twitter de Elon Musk, cuya herramienta de IA Grok ha acumulado críticas de distintos ámbitos, desde la comunidad científica hasta personalidades de la política, incluyendo investigaciones judiciales abiertas en varias partes del mundo.

En el centro del debate está la función de generación de imágenes de Grok, que permite a cualquier usuario pedir que genere o modifique la imagen de una persona real. Recientemente, muchos usuarios la han utilizado para crear fotos semidesnudas de famosos, pero también muchas veces de personas anónimas, y normalmente sin su consentimiento.

Ahora, xAI, la compañía de Elon Musk centrada en inteligencia artificial, ha decidido dar marcha atrás y ha dejado de permitir que los usuarios de X escriban a la cuenta @Grok para editar imágenes de personas reales son "ropa reveladora, como bikinis", según recoge una publicación de la cuenta de seguridad de X.

Esta medida afecta a todos los usuarios, tanto de las cuentas de pago de la plataforma propiedad de Elon Musk como a las personas con cuenta gratuita. Sin embargo, la compañía asegura que solo aplica esta prohibición "en aquellas jurisdicciones donde es ilegal" a través de bloqueos geográficos.

No obstante, desde medios como The Verge se ha denunciado que aún es posible generar imágenes de semidesnudos en Grok, no queda claro si porque las medidas de protección de xAI están fallando o porque se están realizando desde países donde no se está aplicando.

Esto viene acompañado de más cambios, ya que la compañía ha decidido limitar también la creación de imágenes mediante publicaciones que mencionan a la cuenta de Grok solo a los suscriptores de pago de X. La decisión no afecta a los usuarios de Grok desde su página web, su app o su versión de escritorio.

Críticas y denuncias a Grok

La medida llega como respuesta a un contexto de críticas y medidas legales contra X por el uso que se le da a la inteligencia artificial de Grok en la plataforma recientemente.

Por un lado, tanto famosos como personas anónimas critican que las imágenes en bikini o en ropa interior están sexualizadas y se realizan sin ningún consentimiento por su parte.

Por otro, la compañía se enfrenta a varios procesos judiciales abiertos y problemas legales en el mundo. Malasia e Indonesia han sido los primeros países del mundo en prohibir el uso de Grok por la creación de imágenes de desnudos.

En otros países como Francia, Reino Unido, Australia, Irlanda e India, así como por parte de la Comisión Europea, se han anunciado investigaciones contra X en las que en muchos casos se alerta sobre la generación de imágenes deepfake sexualizadas de menores de edad.

Elon Musk contestó hace unos días a las críticas respondiendo que Grok no permite la creación de imágenes sexuales ni siquiera en su modo picante exclusivo para suscriptores, ya que sus políticas no lo permiten, y tachó a sus detractores de estar contra la libertad de expresión.