8M | Deepfakes y violencia digital, cuando la IA amplifica los riesgos para las mujeres

La expansión de la Inteligencia Artificial generativa ha profundizado un fenómeno que ya era preocupante, la violencia digital contra las mujeres. Un informe de la Cyber Civil Rights Initiative señala que la proliferación de herramientas de generación de imágenes mediante IA ha facilitado la creación de contenido sexual falso sin consentimiento, un problema que afecta de manera desproporcionada a mujeres y niñas. 

El resultado es un entorno digital donde la innovación convive con nuevas formas de violencia y fraude cada vez más sofisticadas.

A su vez, un estudio de Sensity AI reveló que el 96% de los deepfakes que circulan en Internet son de carácter pornográfico y casi todos tienen como objetivo a mujeres. Esta tendencia refleja un patrón de violencia digital de género que se ha intensificado con el desarrollo de herramientas de generación de imágenes y video mediante IA.

Según explica Merritt Cahoon, coordinadora del programa Deep Tech de la Universidad de Duke, “entre los desarrollos más alarmantes de la tecnología se encuentran la utilización de deepfake contra mujeres, incluyendo herramientas que permiten subir la foto de una mujer vestida y generar automáticamente una versión desnuda creada por IA”, advierte.

Sin embargo, la violencia digital no se limita al contenido sexual manipulado. Informes como el de Plan International muestran que el 58% de las niñas ha sufrido acoso en línea, y muchas reportan experimentar más agresiones en Internet que en espacios físicos. 

De hecho, entre abril y junio de 2024, Facebook actuó sobre 7,8 millones de contenidos relacionados con bullying o acoso, mientras que Instagram eliminó alrededor de 10,1 millones de publicaciones por el mismo motivo, según datos del Community Standards Enforcement Report de Meta Platforms.

Si bien este es un asunto que sucede en entornos digitales, las consecuencias para las víctimas son reales y pueden ser profundas y duraderas. 

De acuerdo con investigaciones del Cyber Civil Rights Initiative más del 30% de las víctimas de pornografía divulgada de manera no consensuada reportan daños graves en sus relaciones familiares, mientras que muchas enfrentan efectos psicológicos como depresión o estrés postraumático.

Cahoon también advierte que el daño reputacional puede afectar directamente la vida profesional y académica de las víctimas.

“Las imágenes manipuladas pueden impactar la vida laboral, social y académica de las mujeres. Muchas víctimas temen que colegas o empleadores encuentren este contenido al buscar su nombre en Internet”.

En algunos casos, las consecuencias son tan graves que las víctimas cambian de identidad o abandonan espacios digitales y profesionales.

Este fenómeno también contribuye a ampliar la brecha digital de género. Según estimaciones de organismos internacionales como Naciones Unidas, la violencia digital puede llevar a hasta el 60% de mujeres y niñas a abandonar o limitar su participación en Internet, reduciendo su acceso a oportunidades económicas y cívicas.

Fraude, identidad y reputación

Además del impacto social y/o psicológico. La manipulación de imágenes a través de IA también puede desencadenar en fraude digital y suplantación de identidad.

De acuerdo con el Online Identity Survey 2025 de Jumio, una de cada cinco mujeres en el mundo (19,7%) afirma haber sido víctima de fraude en línea o robo de identidad. Además, el 78,5% expresa preocupación por el uso de IA para alterar imágenes o videos sin consentimiento.

Pilar Pereira, directora estratégica de alianzas y partnerships en Jumio, una plataforma de verificación de identidad digital, explica que las amenazas actuales combinan distintas tecnologías y tipos de ataque.

“Lo que estamos viendo es una evolución hacia amenazas más sofisticadas y más difíciles de detectar. El fraude ya no es solo financiero; hoy también impacta reputación, estabilidad emocional y oportunidades profesionales”.

Los deepfakes y las identidades sintéticas permiten crear perfiles falsos o manipular videos y audios con un alto nivel de realismo, lo que facilita esquemas de fraude, extorsión o difamación.

“En Jumio, desde la identidad digital, observamos tres riesgos principales: suplantación de identidad, reputación y fraude basado en IA. La suplantación puede derivar en la apertura de cuentas fraudulentas o afectaciones crediticias. Asimismo, la manipulación mediante deepfakes puede tener impacto profesional; y la ingeniería social combina tecnología con explotación emocional”, detalló Pereira.

El hecho de que una quinta parte de las mujeres globalmente, de acuerdo con la encuesta, haya confirmado ser víctima de fraude online demuestra que el riesgo es real y tangible. Por eso la verificación robusta de identidad y la autenticación biométrica avanzada se convierten en herramientas esenciales para reducir la exposición.

Vacíos regulatorios

A pesar del crecimiento de estas amenazas, las políticas públicas aún presentan importantes vacíos. 

El informe Women, Business and the Law 2024 del World Bank señala que menos del 40% de las economías del mundo cuentan con leyes específicas contra el ciberacoso.

Incluso donde existen normativas, los desafíos de implementación son significativos. Los delitos digitales suelen cruzar fronteras, lo que dificulta la investigación y persecución judicial.

Pereira señala que uno de los principales retos es integrar la dimensión de género dentro de las estrategias de ciberseguridad.

“Un área de oportunidad importante es integrar de manera más explícita el impacto diferenciado en las políticas de ciberseguridad. El fraude digital opera sin fronteras y requiere estrategias cada vez más integrales”.

En los últimos años han surgido avances regulatorios. La Unión Europea aprobó una directiva sobre violencia contra las mujeres que incluye formas de violencia digital, mientras que en Estados Unidos se han aprobado leyes para penalizar la distribución de imágenes íntimas generadas por IA.

Sin embargo, los expertos advierten que la velocidad de innovación tecnológica sigue superando la capacidad de respuesta legal.

Para entender la dimensión de este asunto también es necesario verlo como un asunto de ciberseguridad que ya no sólo se trata de la protección de datos y sistemas informáticos, esto  con el fin de empezar a abordar la ciberseguridad también como una cuestión de derechos humanos y gobernanza digital.

“Cuando la IA puede fabricar contenido sexual de personas que nunca lo autorizaron, la seguridad digital deja de ser un problema técnico. Se convierte en un problema de derechos civiles. La privacidad, la autonomía corporal, la libertad de expresión y la participación en la vida pública se ven directamente afectadas cuando los espacios digitales se vuelven inseguros”, aseveró Cahoon.

En este contexto, las soluciones no dependen únicamente de nuevas leyes o tecnologías, sino también de educación digital, cooperación internacional y mayor responsabilidad de las plataformas tecnológicas.