Elon Musk / Foto: Europa Press - Contacto - Algi Febri Sugita
La medida se adopta en un contexto de creciente presión regulatoria sobre el uso de la inteligencia artificial para crear contenidos sexuales sin consentimiento. Varios gobiernos han advertido de los riesgos legales y sociales de estas herramientas, especialmente cuando afectan a mujeres y menores.
X reconoce el uso indebido de Grok y anuncia cambios técnicos para limitar la creación de imágenes sexuales no consentidas
La empresa xAI, propiedad de Elon Musk, ha informado de que Grok dejará de generar o editar imágenes de personas reales desnudas o sexualizadas en los países donde la ley lo prohíbe. Para ello, la plataforma aplicará geobloqueo de contenidos cuando infrinjan la normativa local.
Según la compañía, también se han implantado restricciones para impedir la edición de imágenes de personas reales con ropa reveladora, como bikinis o ropa interior. Estas limitaciones afectarán tanto a los usuarios gratuitos como a los suscriptores de pago.
El objetivo, explica xAI, es evitar abusos y garantizar que quienes intenten vulnerar la ley o las políticas internas puedan ser identificados y responsabilizados.
Las restricciones se aplicarán a todos los usuarios, incluidos los de pago, y buscan facilitar la responsabilidad legal
El anuncio se produjo horas después de que Elon Musk afirmara no tener constancia de que Grok hubiera generado “imágenes de menores sin ropa”. Ese mismo día, el estado de California confirmó la apertura de una investigación por la proliferación de material sexual explícito no consentido creado con esta herramienta.
Las autoridades californianas sostienen que las funciones de edición de Grok han facilitado la producción masiva de imágenes íntimas falsas utilizadas para acosar a mujeres y niñas en internet, incluso a través de la propia red social X.
El fiscal general de California, Rob Bonta, subrayó que existe “tolerancia cero” frente a la creación y difusión de imágenes íntimas no consentidas o de material de abusos sexuales a menores.
California considera que Grok ha facilitado la difusión masiva de deepfakes sexuales utilizados para el acoso en línea
La polémica ha tenido un alcance global. Varios países han adoptado medidas contra Grok o han iniciado investigaciones para evaluar posibles vulneraciones de sus leyes de seguridad digital.
| País o región | Actuación adoptada |
|---|---|
| Malasia | Bloqueo del acceso a Grok |
| Indonesia | Bloqueo del acceso a Grok |
| Reino Unido | Investigación por posibles infracciones |
| Unión Europea | Análisis de violaciones de la normativa digital |
| Francia | Advertencia y exigencia de controles |
| India | Advertencia regulatoria |
| Brasil | Solicitud de investigación |
| EEUU (California) | Investigación oficial abierta |
Las restricciones anunciadas por X buscan contener este frente regulatorio y limitar el impacto legal del uso indebido de Grok en distintos mercados.
Tras el anuncio realizado desde Washington, la presidencia chipriota del Consejo de la UE confirmó…
Tras la firma, la CNAG pasa a asumir un papel central en la futura gobernanza…
El episodio invernal se concentra especialmente en zonas de montaña y del norte peninsular, donde…
En una entrevista en La Sexta, recogida por Europa Press, Bustinduy ha subrayado que el…
Weber ha subrayado que el PPE respalda un acuerdo comercial entre ambas partes, pero ha…
El anuncio de Washington ha provocado una reacción inmediata de Francia, Reino Unido y varios…