El Gobierno defiende investigar las redes: “Está en juego la seguridad de nuestros hijos”

La decisión, que se ampara en el artículo 8 del Estatuto Orgánico del Ministerio Fiscal, ha sido adoptada en Consejo de Ministros y se apoya en un informe técnico elaborado por el Ministerio de la Presidencia, Justicia y Relaciones con las Cortes, el de para la Transformación Digital y de la Función Pública, y el de Juventud e Infancia. Este último ya había alertado con anterioridad de la afección de estas prácticas a los niños y niñas.

“No podemos permitir que a través del algoritmo se puedan amplificar o amparar” estos delitos, ha defendido Saiz en la rueda de prensa posterior al Consejo de Ministros.

En el informe citado, señala Moncloa en una nota, se analizan las posibles responsabilidades penales de “prácticas cada vez más extendidas en el entorno digital como la generación y difusión de contenidos sexuales y pornografía infantil a través las ultrafalsificaciones (deepfakes) y la manipulación de imágenes reales para crear otras de contenido sexual explícito y menoscabar la dignidad de las víctimas”.

De la misma forma, el documento alerta de la posible participación de las redes sociales en estos hechos, ya que “permite su difusión masiva con una velocidad y opacidad que dificultan enormemente la detección y persecución, al tiempo que favorece la articulación de redes que producen, comparten y monetizan estos contenidos”.

En este sentido, se solicita al Ministerio Fiscal que, dentro de su autonomía y tras oír a la Junta de Fiscales de Sala del Supremo, analice e investigue estos hechos y ejerza las acciones penales que estime pertinentes y, además, se establezcan criterios de actuación y medidas concretas que permitan a las posibles víctimas y a sus tutores y representantes legales hacer valer sus derechos ante la Fiscalía.

Juventud e Infancia ya alertó en enero de estudiar posibles delitos

En enero, el Ministerio de Juventud e Infancia ya alertó de la necesidad de que la Fiscalía estudiase estos posibles delitos cometidos. “Esta acción responde al surgimiento de un ecosistema de riesgo sin precedentes para la explotación sexual en el ámbito digital, especialmente de menores”, remarcan desde el Ejecutivo.

Según Moncloa, “la convergencia de la Inteligencia Artificial (IA) generativa y las redes sociales masivas ha generado un entorno propicio para la creación y difusión de deepfakes hiperrealistas, y para la proliferación de canales opacos que distribuyen y monetizan estos contenidos”.

En España, una de cada cinco personas jóvenes, especialmente niñas y adolescentes, afirma haber sufrido la difusión de falsos desnudos suyos creados con IA siendo menores. Además, un tercio asegura haber sufrido acoso sexual digital durante su infancia, según datos de Save the Children.

El Gobierno considera que, además de la gravedad del daño individual causado a las víctimas y sus familias, la situación afecta también a la seguridad y dignidad de la infancia española en su conjunto. “La evidente impunidad con la que se actúa en el ámbito de internet y de las redes sociales obliga a que las instituciones públicas recurran a todos los mecanismos existentes para luchar contra este fenómeno”, señala el acuerdo alcanzado en el Consejo de Ministros.

Investigaciones internacionales

Con esta iniciativa, España se suma a los países e instituciones de nuestro entorno que ya están tomando medidas al respecto. En Francia, la fiscalía está investigando a X por la generación de deepfakes de carácter sexual. En Italia, la autoridad de protección de datos señaló que este tipo de hechos podrían llegar a dar lugar a responsabilidades penales.

Además, la Comisión Europea está investigando el caso de Grok y TikTok bajo la Digital Service Act (DSA) y, en 2024, ya inició procedimientos contra Meta y TikTok por difusión de contenidos ilícitos.

Fuera de la Unión Europea, países como el Reino Unido, Malasia, Indonesia, Kenia y diversos estados de EEUU también han abierto diligencias por estos hechos.

Acceda a la versión completa del contenido