La medida se adopta en un contexto de creciente presión regulatoria sobre el uso de la inteligencia artificial para crear contenidos sexuales sin consentimiento. Varios gobiernos han advertido de los riesgos legales y sociales de estas herramientas, especialmente cuando afectan a mujeres y menores.
X reconoce el uso indebido de Grok y anuncia cambios técnicos para limitar la creación de imágenes sexuales no consentidas
Cambios técnicos en Grok
La empresa xAI, propiedad de Elon Musk, ha informado de que Grok dejará de generar o editar imágenes de personas reales desnudas o sexualizadas en los países donde la ley lo prohíbe. Para ello, la plataforma aplicará geobloqueo de contenidos cuando infrinjan la normativa local.
Según la compañía, también se han implantado restricciones para impedir la edición de imágenes de personas reales con ropa reveladora, como bikinis o ropa interior. Estas limitaciones afectarán tanto a los usuarios gratuitos como a los suscriptores de pago.
El objetivo, explica xAI, es evitar abusos y garantizar que quienes intenten vulnerar la ley o las políticas internas puedan ser identificados y responsabilizados.
Las restricciones se aplicarán a todos los usuarios, incluidos los de pago, y buscan facilitar la responsabilidad legal
Investigaciones y advertencias oficiales
El anuncio se produjo horas después de que Elon Musk afirmara no tener constancia de que Grok hubiera generado “imágenes de menores sin ropa”. Ese mismo día, el estado de California confirmó la apertura de una investigación por la proliferación de material sexual explícito no consentido creado con esta herramienta.
Las autoridades californianas sostienen que las funciones de edición de Grok han facilitado la producción masiva de imágenes íntimas falsas utilizadas para acosar a mujeres y niñas en internet, incluso a través de la propia red social X.
El fiscal general de California, Rob Bonta, subrayó que existe “tolerancia cero” frente a la creación y difusión de imágenes íntimas no consentidas o de material de abusos sexuales a menores.
California considera que Grok ha facilitado la difusión masiva de deepfakes sexuales utilizados para el acoso en línea
Reacción internacional
La polémica ha tenido un alcance global. Varios países han adoptado medidas contra Grok o han iniciado investigaciones para evaluar posibles vulneraciones de sus leyes de seguridad digital.
| País o región | Actuación adoptada |
|---|---|
| Malasia | Bloqueo del acceso a Grok |
| Indonesia | Bloqueo del acceso a Grok |
| Reino Unido | Investigación por posibles infracciones |
| Unión Europea | Análisis de violaciones de la normativa digital |
| Francia | Advertencia y exigencia de controles |
| India | Advertencia regulatoria |
| Brasil | Solicitud de investigación |
| EEUU (California) | Investigación oficial abierta |
Las restricciones anunciadas por X buscan contener este frente regulatorio y limitar el impacto legal del uso indebido de Grok en distintos mercados.
