España investigará a Meta, X y TikTok por uso de IA para contenido sexual infantil en sus plataformas
El gobierno español instó a la Fiscalía General de Estado a investigar y revisar posibles delitos de violencia sexual digital cometidos contra menores de edad en las redes sociales Meta, X y TikTok.
En el informe relacionado se analizan las posibles responsabilidades penales de prácticas cada vez más extendidas en el entorno digital como la generación y difusión de contenidos sexuales y pornografía infantil a través las ultrafalsificaciones (deepfakes) y la manipulación de imágenes reales para crear otras de contenido sexual explícito y menoscabar la dignidad de las víctimas en estas plataformas.
“No podemos permitir que a través del algoritmo se puedan amplificar o amparar. Está en juego la seguridad de nuestros hijos, de nuestras hijas, la protección de su imagen, de su intimidad, de su libertad”, dijo la ministra portavoz, Elma Saiz, en rueda de prensa.
Según el documento, la acción responde al surgimiento de un ecosistema de riesgo sin precedentes para la explotación sexual en el ámbito digital, especialmente en menores. En su análisis, el gobierno consideró que, además de la gravedad del daño individual causado a las víctimas y sus familias, la situación afecta también a la seguridad y dignidad de la infancia española en su conjunto.
El anuncio es parte de las acciones previstas para regular las redes sociales. Durante la Cumbre de Gobiernos celebrada a principios de febrero en Dubái, el presidente del gobierno, Pedro Sánchez, anunció que el país prohibirá el acceso a redes sociales a menores de 16 años.