La polémica ha reactivado el debate sobre la falta de salvaguardas en las herramientas de generación de imágenes por inteligencia artificial y su impacto en la protección de mujeres y niños.
El uso de la IA para manipular imágenes y crear contenido sexual falso se ha convertido en una de las principales preocupaciones regulatorias a nivel global. En el caso de xAI, el foco está puesto en la capacidad de Grok para generar este tipo de material dentro de una plataforma con millones de usuarios activos.
Reguladores de varios países investigan a xAI por no impedir la difusión de imágenes sexuales falsas creadas con IA
Imágenes sin consentimiento y contenido con menores
En las últimas semanas, Grok respondió a peticiones de usuarios para “desnudar” imágenes de mujeres o hacerlas posar en bikini, creando deepfakes sexuales sin consentimiento. Análisis de distintos medios también detectaron que el chatbot accedía a solicitudes para generar imágenes sexualmente sugerentes de menores, incluida una actriz de 14 años, lo que activó las alarmas de los reguladores.
Este tipo de contenidos está prohibido tanto por la legislación vigente en numerosos países como por las propias normas internas de xAI.
El chatbot llegó a generar imágenes sexuales de menores, una práctica prohibida por la ley y por las condiciones de uso de la empresa
Investigaciones y advertencias legales
Ante la avalancha de imágenes, autoridades de la Unión Europea, Francia, India y Malasia han iniciado investigaciones y han advertido de posibles acciones legales si xAI no adopta medidas eficaces para prevenir y eliminar deepfakes sexuales de personas reales y material de abuso sexual infantil.
La cuenta de seguridad de X aseguró que el contenido ilegal será eliminado y que las cuentas que lo publiquen serán suspendidas de forma permanente, además de colaborar con los gobiernos y las fuerzas de seguridad para identificar a los infractores.
La UE y varios Estados amenazan con sanciones si xAI no refuerza los controles de seguridad
La reacción de Musk y el historial de Grok
Elon Musk reaccionó inicialmente con ironía, compartiendo imágenes generadas por Grok en las que aparecía él mismo y una tostadora en bikini. Posteriormente, afirmó que cualquier persona que utilice o incite al chatbot a crear contenido ilegal afrontará las mismas consecuencias que si lo publicara directamente.
Desde que Musk compró X en 2023, la plataforma se ha orientado contra la denominada “corrección política”. Esa filosofía se ha trasladado a Grok, diseñado, según su fundador, para ser “políticamente neutral”. Sin embargo, el chatbot ya protagonizó una polémica en julio, cuando publicó comentarios antisemitas y contenidos de negación del Holocausto, lo que obligó a xAI a emitir una disculpa pública.
Grok Imagine y los contenidos NSFW
El generador Grok Imagine, lanzado en agosto de 2025, incluye un modo de pago para crear contenidos NSFW. Aunque sus condiciones prohíben la pornografía con personas reales y cualquier contenido sexual que implique a menores, varios medios denunciaron que la herramienta llegó a generar vídeos de desnudos de Taylor Swift sin que el usuario lo solicitara.
Datos sobre los ‘deepfakes’ sexuales
| Indicador | Dato |
|---|---|
| Porcentaje de vídeos deepfake con contenido pornográfico | 98% |
| Porcentaje de víctimas mujeres | 99% |
| Año del informe | 2023 |
| Empresa que elaboró el estudio | Home Security Heroes |
Según este informe, la gran mayoría de los deepfakes en internet se utilizan con fines sexuales y tienen como principales víctimas a mujeres.
Avance regulatorio contra la ‘desnudificación’ digital
En diciembre, el Gobierno británico anunció la prohibición de las aplicaciones de “desnudificación” basadas en IA, ilegalizando la creación o distribución de herramientas que permitan desvestir digitalmente a una persona. La medida forma parte de un plan más amplio para reducir la violencia contra mujeres y niñas.
El caso de xAI se suma así a una lista creciente de conflictos entre innovación tecnológica y regulación, en un contexto en el que los gobiernos buscan frenar los abusos derivados del uso de la inteligencia artificial.
