• xAI, la compañía de inteligencia artificial dirigida por Elon Musk, ha iniciado una demanda legal contra un usuario que utilizó su herramienta Grok con el objetivo de generar deepfakes de contenido sexual.

Elon Musk es conocido por ser la persona más rica del mundo y también por ser todo un personaje en redes sociales, sobre todo en X. Desde luego es una persona con un pensamiento libre y quiere trasmitir lo mismo en su red social X, aunque luego sus empresas son distintas. Su empresa de IA, xAI, no iba a permitir que un hombre de Carolina del Sur se librase de los cargos por explotación sexual a menores, pues ha acabado presentando una demanda contra él debido a que usó la IA Grok para hacer deepfakes sexuales.

El gran interés por la IA nació a partir de ChatGPT de OpenAI, el cual se lanzó a finales de noviembre de 2022. Este se convirtió en una de las webs/plataformas que más crecían de Internet, llegando a alcanzar nuevos récords. Por ejemplo, en solo 60 días operativo llegó a los 100 millones de usuarios mensuales y en 3 años alcanzó los 1.000 millones de usuarios mensuales mientras que TikTok tardó 5 años e Instagram tardó 8 años en conseguir esto último. Como imaginarás, las empresas querían entrar en este sector y hacer competencia y ahí es como nacieron IA como Google Gemini, Claude de Anthropic o Grok de xAI.

xAI demanda a un usuario que usó la IA Grok para crear deepfakes sexuales de menores

Fue en julio de 2023 cuando Elon Musk anunció Grok, su nuevo asistente con IA desarrollado por su empresa de inteligencia artificial xAI. En noviembre de 2023 llegó su primera versión que se integró en Twitter/X y posteriormente tuvimos Grok 2 y Grok 3, siendo esta última la que añadió razonamiento avanzado y agentes de IA. En julio de 2024 tuvimos Grok 4 como modelo multimodal que soportaba vídeos también y actualmente vamos por Grok 4.5 que usa MoE y tiene capacidades superiores. Los usuarios han creado de todo con Grok, pero desde luego Terry Harwood violó los términos de servicio de la compañía y xAI ha emitido una demanda contra él y sus deepfakes sexuales.

Por si no conoces el término de deepfake, esta es la creación de contenido en forma de imágenes o vídeos falsos donde se reemplaza la cara de una persona por otra, aunque claro, con la IA el resultado puede ser muy realista. Si bien no es tanto ver deepfakes de actores y actrices famosos, el crimen de Terry es haber hecho deepfakes sexualizados de menores de edad.

En lo que llevamos de 2026, xAI ha suspendido más de 50.000 cuentas y se ha implicado en 244 arrestos

El ciudadano de Carolina del Sur fue arrestado en febrero de 2026, pero xAI tardó en poner la demanda, pues esta se presentó este martes en el tribunal federal de Texas. En esta acusaban a Terry de haber infringido los términos de la compañía y quebrantado las normas. La empresa de inteligencia artificial de Elon Musk ha mencionado que ellos se aseguran de que todos los clientes y usuarios cumplen las normas, llegando a suspender y cancelar las cuentas si es necesario.

En lo que llevamos de 2026, xAI ya ha suspendido 52.222 cuentas de X y ha enviado 73.604 informes que han acabado en 244 arrestos, uno de ellos el de Terry. Este se encargó de subir imágenes no sexualizadas de menores (y adultos) a Grok, pero le pidió a la IA que generase deepfakes sexualmente explícitos. Por este crimen, xAI pide una indemnización económica que tendrá que pagar el demandado.