84% de las adolescentes españolas temen que se use su imagen para crear contenido sexual falso con IA
Un nuevo estudio de la ONG Plan International revela que 84% de las adolescentes entre 12 y 16 años de edad en España vive con el miedo de que su imagen pueda ser manipulada mediante Inteligencia Artificial (IA) para generar contenido sexual falso.
El informe titulado Así somos: el estado de la adolescencia en España, también reveló que 72% de los hombres de entre 12 y 21 años manifiesta preocupación por el riesgo de ser acusados injustamente de acoso o violencia de género.
Las cifras resultan aún más reveladores si se tiene en cuenta el tiempo que pasan los adolescentes en redes sociales que, según la encuesta, es más alto de lo que a ellos mismos les gustaría, con 36% y 27% entre mujeres y hombres, respectivamente.
El estudio recoge las opiniones de 3,500 jóvenes de entre 12 y 21 años, pertenecientes a las generaciones que ya han crecido inmersas tanto en redes sociales como en la presencia creciente de la IA en su vida cotidiana.
Lee también: Deepfakes, una herramienta de opresión contra las mujeres
El informe también revela que 65% de las mujeres y 68% de los hombres valora los avances en IA, de hecho, sólo 14% de los encuestados dice no haberla usado durante el último mes, mientras que el 24% de las jóvenes de 17 a 21 años usa a la IA como “confidente” para contarse cosas que no harían con otras personas.
Otro tema relevante es que los encuestados están preocupados por su aspecto físico a causa de las críticas y las comparaciones que hay con cuerpos vistos en las plataformas digitales: la mitad compara su cuerpo con el de las redes sociales, 70% de los adolescentes ha recibido alguna crítica por su aspecto físico y uno de cada tres jóvenes planea realizarse una cirugía estética para mejorar alguna parte de su cuerpo.
En cuanto a salud mental, las mujeres reportan tasas más altas de ansiedad, depresión, pensamientos suicidas o trastornos alimentarios. El 15% de las mujeres dice tener problemas de salud mental, aproximadamente el doble que los chicos, que registran un 8%.
El estudio brinda recomendaciones a los centros educativos, las administraciones locales y a las empresas tecnológicas para que trabajen en conjunto en la construcción de una vida digital más sana y segura para los adolescentes.
Recomendamos: La violencia digital es real: iniciativas en América Latina que luchan por Internet seguro para las mujeres
A los centros educativos se les recomienda actualizar el currículo escolar para incluir formación en IA y alfabetización digital y reforzar la formación continua del profesorado, especialmente en orientación y salidas profesionales y competencias digitales; promocionar la igualdad de oportunidades en el alumnado; aumentar becas para comedor y para actividades extraescolares, y ampliarlas en más ámbitos (como el deporte, la música o el arte); usar los centros como espacios comunitarios de información y oferta cultural o deportiva; reducir las ratios de alumnado por aula para mejorar la atención personalizada; y aumentar la inversión en orientación educativa.
A las administraciones se les sugiere poner en marcha el Registro Unificado de Violencia contra la Infancia recogido en la Ley Orgánica de Protección integral a la Infancia y la Adolescencia frente a la violencia (Lopivi), que contenga datos desagregados y accesibles sobre violencia sexual digital contra la infancia y adolescencia, así como garantizar procesos de denuncia más ágiles y una respuesta judicial especializada y adaptada.
También se propone sensibilizar sobre la violencia que se ejercen entre los mismos adolescentes, incluyendo ciberacoso, control digital, coerción sexual, presión grupal, violencia machista en relaciones afectivas y discriminación por orientación sexual o identidad de género.
Las recomendaciones para empresas tecnológicas incluyen regular y garantizar la transparencia sobre tratamientos estéticos promocionados en redes, mejorar los sistemas para identificar a menores sin vulnerar su privacidad, y promover modelos de belleza diversos y realistas en redes sociales e incluir etiquetas en imágenes retocadas por IA.