Hay veces en que una polémica tecnológica crece tan rápido y tan mal que la gestión empresarial deja de ser suficiente, y la política entra en escena. Grok, el asistente de inteligencia artificial vinculado a la red social Twitter —propiedad de Elon Musk—, está en el centro de una crisis que ya no se limita al terreno ético o mediático. Esta vez, el Senado de Estados Unidos ha dado un paso formal, y lo ha hecho con un mensaje directo: Apple y Google deben retirar la aplicación de X de sus tiendas por permitir la generación de deepfakes sexuales y contenido ilegal a través de Grok. El escándalo ya no está contenido.

La denuncia, firmada por los senadores Ron Wyden, Ed Markey y Ben Ray Luján, exige la retirada inmediata de la aplicación mientras se investigan posibles violaciones de las políticas de contenido. Los legisladores acusan a la plataforma de facilitar, mediante Grok, la producción de imágenes explícitas no consentidas, algunas de ellas con apariencia de menores, y simular actos violentos o degradantes con rostros reales. Se trata de una petición formal enviada directamente a los dos grandes distribuidores móviles, que pone en entredicho la seguridad de los entornos que prometen controlar.

Los detalles son alarmantes. Según los informes presentados, Grok ha sido utilizado para generar miles de imágenes abusivas por hora. Las víctimas no son personajes ficticios, sino personas reales cuyas identidades son manipuladas por usuarios con apenas unos clics. En lugar de detener este tipo de funcionalidades, la compañía de Elon Musk optó por restringir el acceso a través de un modelo de pago. Solo quienes contraten el plan Premium pueden seguir utilizando la generación de imágenes, lo que implica que las herramientas siguen activas, simplemente escondidas tras un muro de suscripción.

En MuyComputer ya abordamos este tema en profundidad hace apenas dos días. Allí explicábamos cómo la medida de limitar la función a usuarios verificados no supone una solución real, sino una forma de segmentar la responsabilidad. El daño sigue produciéndose, pero ahora monetizado. La app independiente de Grok, además, continúa permitiendo la generación de imágenes sin las restricciones anunciadas, dejando en evidencia que no hay voluntad de cerrar por completo el acceso a contenidos dañinos.

La crítica más dura ha venido del senador Ron Wyden, quien ha acusado directamente a X de «lucrarse con el delito». Según sus palabras, la empresa no ha frenado las herramientas que permiten la creación de este tipo de imágenes: simplemente ha empezado a cobrar por ellas. Junto con Markey y Luján, sostiene que esta estrategia vulnera las políticas de moderación de Apple y Google, que prohíben explícitamente la distribución de aplicaciones capaces de facilitar abusos de este tipo, incluso si las funciones están parcialmente ocultas o tras barreras de pago.

Si la carta del Senado surte efecto, el escenario para X Corp podría complicarse seriamente. La retirada de su app de la App Store y de Google Play supondría una pérdida masiva de visibilidad y acceso, especialmente en un mercado clave como lo es el de Estados Unidos, por no mencionar que la Unión Europea podría (y debería) seguir la misma senda. Para una plataforma que ya ha visto caer su base de usuarios y su reputación en los últimos años, sería un golpe estructural. De momento, ni X ni xAI han anunciado la desactivación completa de las funciones generativas de Grok, lo que prolonga el enfrentamiento con los reguladores y pone en duda su capacidad para asumir el control de sus propias herramientas.

Hay veces en que la política parece lenta, burocrática o distante. Pero cuando una empresa se niega a corregir un problema que afecta directamente a los derechos fundamentales, incluso la maquinaria institucional más pesada termina por activarse. Esta vez no bastará con reformular condiciones de uso ni con esconder las funciones tras un botón de pago. Si Grok sigue permitiendo la creación de imágenes abusivas, no será un asistente de inteligencia artificial. Será una amenaza distribuida en tiendas oficiales. Y cada día que pase sin una respuesta clara, ese riesgo se hará más difícil de justificar.

Más información