La Cámara de Representantes de Estados Unidos aprobó, con 409 votos a favor y 2 en contra, el proyecto de Ley de herramientas para abordar la explotación conocida mediante la inmovilización de deepfakes tecnológicos en sitios web y redes (Take It Down Act), una legislación pionera que penaliza la publicación y distribución de imágenes íntimas –reales o manipuladas mediante Inteligencia Artificial (IA)– sin el consentimiento de las personas involucradas.

El proyecto de ley fue presentado por un grupo bipartidista de senadores liderados por Ted Cruz, republicano, y Amy Klobuchar, demócrata, y contó con un respaldo amplio en ambas cámaras. Take It Down Act contempla un nuevo marco legal que modifica la Sección 223 de la Ley de Comunicaciones de 1934 para tipificar como delito federal la divulgación intencional de contenido íntimo sin autorización expresa.

La ley distingue dos escenarios principales: las imágenes auténticas, obtenidas o compartidas sin consentimiento en contextos privados, con expectativa de privacidad; y las falsificaciones digitales, las imágenes generadas por medios computacionales (como IA o software de edición) que representan de manera realista a personas en situaciones íntimas o sexualizadas.

Lee también: Empoderar a niñas y mujeres para liderar la transformación digital, el propósito de la UIT

A través de Take It Down Act, los casos serán sancionados cuando se determine que la publicación se hizo con intención de causar daño a la víctima. Las penas establecidas van desde multas económicas, hasta los dos años de prisión para los casos que involucren adultos, y hasta tres años si se trata de menores de edad.

También se aplicarán sanciones para quienes emitan amenazas con este tipo de material con fines de intimidación, sextorsión o daño emocional.

Además del componente penal, Take It Down Act impone a los sitios web, aplicaciones y servicios en línea que permitan contenido generado por los usuarios establecer mecanismos de notificación y remoción de contenido íntimo no autorizado.

Las empresas tecnológicas tendrán un plazo de hasta un año desde la entrada en vigor de la ley para implementar un sistema que permita a los afectados reportar contenido íntimo publicado sin su consentimiento y solicitar su retiro inmediato. Una vez recibida una solicitud válida, la plataforma deberá eliminar el contenido en un plazo máximo de 48 horas y hacer esfuerzos razonables para remover copias idénticas del mismo.

Supervisión de la FTC y protecciones adicionales

La Comisión Federal de Comercio (FTC) será la entidad encargada de velar por el cumplimiento de la ley en el ámbito civil, considerando el incumplimiento de los mecanismos de notificación y remoción como una práctica comercial “injusta o engañosa”.

La normativa también establece mecanismos de restitución para las víctimas, que incluyen el decomiso de bienes y materiales utilizados para cometer los delitos y reglas claras respecto al consentimiento. “El simple hecho de que una persona haya compartido una imagen íntima con otra no constituye consentimiento para su publicación”, detalla el proyecto de ley.

Asimismo, se excluyen de responsabilidad ciertos usos legítimos, como investigaciones policiales, reportes legales, formación médica y usos académicos o científicos debidamente justificados.

Esta legislación representa uno de los esfuerzos más ambiciosos hasta ahora en Estados Unidos para abordar de manera integral el problema del contenido íntimo no consensuado y el uso de deepfakes.

El proyecto espera la firma presidencial para convertirse en ley.

Meta, casa matriz de Instagram, anunció nuevas medidas para luchar contra la sextorsión, un delito que consiste en amenazar a las personas con revelar imágenes de contenido íntimo en las que aparecen, para obligarlas a hacer algo que no desean.

Con las nuevas funciones de seguridad no será posible realizar captura de pantalla de imágenes que son enviadas para ver una sola vez en mensajes directos de Instagram. Además, los menores de 18 años contarán con una configuración de mensajes más estricta, lo que significa que no pueden recibir mensajes de nadie que no sigan o con quien no estén conectados.

Instagram también dificultará que las cuentas que muestren señales de un comportamiento potencialmente fraudulento soliciten seguir a los adolescentes, los mensajes se enviarán a una carpeta de no deseados, e incluso Instagram puede bloquear las solicitudes de seguimiento por completo para que el adolescente no las reciba.

De acuerdo con las investigaciones de Instagram, los estafadores ponen un lugar de residencia falso para engañar a los adolescentes y lograr que confíen en ellos. Para ayudar a prevenir esto, Meta está probando nuevos avisos de seguridad en Instagram DM y Messenger para avisarles a los adolescentes cuando están chateando con alguien que puede estar en un país diferente.

Asimismo, los estafadores sexuales suelen utilizar las listas de seguidores de sus víctimas para intentar chantajearlas. Ahora, las cuentas que muestren señales de comportamiento fraudulento no podrán ver las listas de seguidores o seguidos de las personas, lo que eliminará su capacidad para explotar esta función; tampoco las listas de cuentas que le han dado me gusta a las publicaciones de alguien de los adolescente ni las fotos en las que han sido etiquetados.

Otra de las iniciativas consiste en concienciar a los adolescentes y los padres sobre cómo detectar las estafas de sextorsión y qué hacer para recuperar el control si son víctimas, por medio de una campaña de educación creada por Meta en convenio con el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), incluyendo el Consejo Asesor Juvenil de Thorn.

Estas herramientas se suman a las iniciativas presentadas por Instagram en abril de este año cuando anunció que usaría Inteligencia Artificial (IA) para difuminar automáticamente las imágenes con desnudos recibidas mediante la mensajería de la aplicación.

Lee también: Comisión Europea busca proteger a los niños del ciberacoso y otras formas de violencia

Meta también se asoció con Crisis Text Line en Estados Unidos para brindar apoyo gratuito, confidencial, las 24 horas del día, los 7 días de la semana, en materia de salud mental cuando lo necesiten.

Así, cuando las personas denuncien problemas relacionados con la sextorsión o la seguridad infantil (cómo desnudez, amenazas de compartir imágenes privadas o explotación o incitación sexual), verán una opción para chatear en vivo con un consejero voluntario de Crisis Text Line.

En el comunicado oficial, Meta agregó que hace unos días fueron eliminadas más de mil 620 piezas de contenido (800 grupos de Facebook y 820 cuentas) que estaban afiliados a Yahoo Boys y que estaban intentando organizar, reclutar y entrenar a nuevos estafadores de sextorsión.

Hipertextual-Gabriel Erard

La extorsión sexual o sextorsión no es un problema nuevo en la web, pero sí se está volviendo cada vez más común en Instagram. Si bien dicha actividad criminal puede afectar a personas de todas las edades, sus perpetradores suelen enfocarse en adolescentes y niños. Es por ello que Meta ha decidido adoptar nuevas medidas para proteger a sus usuarios menores de edad y, a la vez, combatir este delito.

La sextorsión es gravísima, puesto que implica la obtención de fotos y vídeos íntimos por parte de actores maliciosos —la mayoría de las veces a través de engaños—, quienes luego amenazan a sus víctimas con divulgar ese material si no consiguen lo que buscan, que por lo general es dinero.

Instagram es consciente de que la extorsión sexual es una amenaza vigente para sus usuarios, especialmente aquellos que tienen menos de 18 años. La compañía ha decidido reforzar la protección de las cuentas con nuevas funciones que prometen hacer mucho más difícil que perfiles sospechosos puedan entablar una conversación con los adolescentes o acceder a sus contactos.

Asimismo, se han implementado medidas para prevenir que contenidos sensibles que se comparten por mensajes privados se capturen y viralicen con fines de chantaje. Estas características sirven como complemento de las restricciones para los perfiles de adolescentes que la red social anunció el mes pasado.

Leer más.

El Telégrafo

Una mujer recibió mensajes amenazantes en su teléfono de parte de Édgar M. El sujeto le exigía USD 2.000 en efectivo a cambio de no divulgar sus fotografías íntimas a través de las redes sociales.

La mujer acordó entregarle el dinero en un contenedor de basura ubicado cerca del estadio Bellavista de Ambato el 1 de agosto de 2024. Para ello, Édgar M. utilizó un disfraz de indigente y procedió a retirar el dinero que le habían dejado en el contenedor.

Lee más.

Instagram anunció recientemente nuevas herramientas basadas en Inteligencia Artificial (IA) para proteger a todos los usuarios del chantaje con fotos de carácter sexual, también conocido como sextorsión, y del abuso de imágenes íntimas, especialmente a los menores de edad.

Con ayuda de la IA, Instagram detectará automáticamente las imágenes con desnudos recibidas mediante la mensajería de la aplicación y las difuminará. Esta solución se activará de forma automática para los perfiles de menores de 16 años.

La app también enviará mensajes para sensibilizar a los usuarios sobre la sextorsión, recordando la importancia de enviar este tipo de contenido sensible con cautela, y le permitirá a los usuarios retirar las fotos que ya hayan enviado y que contengan desnudos.

También lee: Adolescentes LGBTQI+ sufren ciberacoso por su orientación sexual

Instagram aclaró que con la IA las imágenes de desnudos se analizan en el propio dispositivo, por eso la herramienta funcionará en chats cifrados de extremo a extremo, “en los que Meta no tendrá acceso, a menos que alguien decida informarnos de ellas”, aclaró Instagram en el comunicado oficial.

Estas nuevas medidas estarán disponibles a partir del 1 de mayo en diferentes países de América Central y América Latina, antes de implantarse en todo el mundo en los próximos meses.

“Estamos probando nuevas funciones para dificultar que posibles estafadores y delincuentes encuentren a los adolescentes e interactúen con ellos, como ocultar a los adolescentes de estas cuentas en las listas de seguidores y me gusta de las personas, y dificultarles la búsqueda de cuentas de adolescentes en los resultados de búsqueda”, describe el comunicado de prensa.

El Mercurio

Preste atención a esta modalidad de delito que afecta a menores de edad y adultos. Y es que los delincuentes aprovechan la difusión de información en redes sociales y medios informáticos. Evite caer en extorsiones.

En Ecuador, Juan Julio G. V. es acusado de, presuntamente, utilizar su cuenta de Facebook para solicitarle a su víctima –de 13 años de edad– fotografías de sus partes íntimas.

Lee más.

El País-Isabel Rubio

Con 17 años, Álvaro (nombre ficticio a petición de la víctima) no tenía clara su orientación sexual: “Quería probar cosas nuevas para ver qué era lo que realmente me gustaba”. En ese proceso de experimentación acabó en un chat en el que, sin necesidad de registrarse, conocía a gente para practicar sexo online. Casi siempre se conectaba a la misma hora. Así empezó a coincidir con un chico al que “no le gustaba enseñar”, pero sí pedir: “Yo grababa vídeos y él me decía con voz qué hacer”. Lo que en un principio le parecía un juego inocente, pronto se convirtió en una pesadilla. El chico con el que había estado chateando le empezó a chantajear: le pedía que le dejara 50.000 euros dentro de una papelera o difundiría todo el material.

Lo que le ocurrió a Álvaro, que ahora tiene 18 años, no es un caso aislado. Se denomina sextorsión y es una forma de chantaje mediante el cual una persona coacciona a otra para realizar acciones en contra de su voluntad. “Lo más común es que el atacante se gane la confianza de la víctima hablando con él y durante todo este tiempo se vaya haciendo con contenido delicado de la persona. Una vez que tiene el material, amenaza a la víctima con su distribución”, explica Sara G. Antúnez, abogada penalista de Stop Haters, la primera asociación española sin ánimo de lucro para luchar contra el hostigamiento en Internet.

Los atacantes, cuyo principal objetivo es conseguir dinero, “se aprovechan del miedo que generan en la víctima” al decirle que tienen en su posesión imágenes íntimas y que las van a difundir por toda la red. El chico con el que Álvaro chateaba le hacía capturas de pantalla a los vídeos que recibía: “Me mandaba mis propias fotos y me decía que le pagara y que si se lo contaba a alguien o lo denunciaba, colgaría todo en Internet y mandaría fotos a mi casa”. Pero Álvaro no tenía dinero suficiente. “Le suplicaba que no me pidiese tanto y le decía que iba a trabajar y a ahorrar, así que me decía que le compensara con más imágenes sexuales y yo lo hacía”, afirma el joven, que reconoce haber cedido en muchas ocasiones “porque estaba cagado de miedo”.

Al igual que Álvaro, muchas otras víctimas caen en la trampa, según G. Antúnez: “Es muy común que la primera reacción de las personas sea ceder al chantaje por miedo a dicha distribución”. “El atacante siempre elige momentos muy delicados en los que lleva a una situación de nerviosismo y agobio extremo a su víctima con el objetivo de que actúe de forma rápida y sin pensar demasiado”, afirma.

El atacante siempre elige momentos muy delicados en los que lleva a una situación de nerviosismo y agobio extremo a su víctima con el objetivo de que actúe de forma rápida y sin pensar demasiado

Las amenazas que Álvaro sufrió durante un año parecían ir en serio. “Cuando dejé de meterme en el chat y contestarle, mandó una carta con una foto a mi casa. Suerte que la cogí yo en vez de mi padre”, recuerda el joven, que aún a día de hoy no sabe cómo el atacante averiguó su dirección. Al ver que las amenazas no paraban y “que no iba a conseguir el dinero en la vida”, decidió buscar ayuda: “Tenía miedo, me sentía humillado y avergonzado, pero no podía salir de ahí. Estaba acorralado”.

Fue entonces cuando se puso en contacto con Stop Haters. “Estas situaciones son muy complicadas. A veces la víctima no se da cuenta de la situación hasta que es demasiado tarde”, explica G. Antúnez. Además de un equipo de abogados para asesorar en el campo legal a la víctima, la asociación cuenta con psicólogos e informáticos. Durante unos meses, investigaron quién estaba detrás de las amenazas. Señalan que es una persona “mucho mayor” que la víctima. Aunque por el momento prefieren no dar detalles al respecto, confirman que ya cuentan con bastantes pistas y han llevado el caso al juzgado.

Arruinar la vida de una persona mediante la difusión sin su consentimiento de contenidos íntimos es delito. El Código Penal español, en su artículo 243, establece que este acto puede conllevar de uno a cinco años de prisión. Pero, a diferencia de Álvaro, un alto porcentaje de personas afectadas no denuncian el chantaje, según alerta la Guardia Civil. Esto dificulta analizar cuál es la escala real del problema. La empresa experta en ciberseguridad WatchGuard, en su Informe de Seguridad de Internet, alerta de que ha detectado que la sextorsión fue la segunda técnica más utilizada por los ciberdelincuentes en el cuarto trimestre de 2018.

En el caso de Álvaro, las amenazas parecen haber acabado: “Él debe saber que le hemos pillado porque ha parado”. El joven de 18 años, aunque a día de hoy se siente “protegido”, sigue pasándolo mal por lo que le ha ocurrido y asegura que no volverá a acceder a páginas sin registro. “Todos somos libres de practicar lo que queramos pero en sitios seguros”, afirma.

Aumento de casos

Este año, el suicidio de una empleada de Iveco tras hacerse viral un vídeo suyo de contenido sexual volvió a poner de relieve la gravedad de determinadas conductas en redes sociales. Stop Haters ha notado un aumento de los casos de sextorsión en los últimos meses. Pablo Fernández Alonso, abogado especialista en ciberseguridad de la asociación y de TQAbogados, explica que “una de las principales razones es que hoy en día la mayoría de las personas tenemos acceso continuo y diario a Internet, con el consiguiente peligro que ello conlleva”: “En el momento en el que subimos o compartimos una fotografía no somos capaces de saber hasta dónde puede llegar. Eso que conocemos como la huella digital va a estar toda la vida en la red”.

A veces la víctima no se da cuenta de la situación hasta que es demasiado tarde

Existen “dos tipos de atacantes”. Por un lado, exparejas o personas con las que se ha tenido alguna relación. Por otro, aquellos que se amparan en el anonimato que da la red y haciéndose pasar por otra persona se ganan la confianza de la víctima para conseguir el contenido. Esto último es lo que le ocurrió a Nuria (nombre ficticio también a petición de la víctima): “Conocí a una persona que se hacía pasar por otra en Twitter. Yo al principio no lo sabía y como le seguían otras personas de mi entorno me creí que era quién decía ser”. Todo empezó con un intercambio de likes y retweets. Más adelante, llegaron los mensajes directos y, un día, compartieron sus números de teléfono.

Se comunicaban por Telegram y a través de llamadas. Después de meses hablando, comenzaron una ciberrelación: “Me extrañó que no nos viéramos, pero por mi trabajo y el que él decía tener era difícil encontrar el momento y además vivíamos en ciudades diferentes”. En algunas ocasiones tuvieron “conversaciones calenturientas”. “Nunca nos enviamos fotografías, pero yo soy bastante conocida y de repente, un día, me empezaron a escribir personas de mi entorno diciéndome que desde un perfil falso les habían enviado unos audios donde yo decía cosas subidas de tono. E imagínate… me entró pánico”, cuenta Nuria, que tiene 38 años.

Tras enterarse de que había compartido los audios, le llamó. También le escribió. Pero su cuenta había desaparecido. A los pocos días tuvo noticias suyas: “Me mandó un mensaje diciéndome que si no ingresaba dinero en una cuenta de otro país con un nombre que no había oído nunca, no pararía de enviar mensajes con dichos audios”.

El error de pagar

Pagar nunca es la solución. “Nada nos asegura que si pagamos dicha cantidad la actitud del atacante vaya a cesar. No sería de extrañar que, una vez que lo hacemos, la actitud persista o se agrave aún más”, explica Fernández Alonso. El número de personas que accede a pagar “no es muy elevado”, ya que la cantidad de dinero que solicitan suele ser muy alta: “Esto dificulta que la persona pueda recaudarlo, haciendo saltar las alarmas en la víctima y dándole fuerzas para buscar ayudas y apoyos”.

Nada nos asegura que si pagamos dicha cantidad la actitud del atacante vaya a cesar. No sería de extrañar que, una vez que lo hagamos, la actitud persista o se agrave aún más

Nuria nunca cedió. Denunció los hechos a la policía y pidió ayuda a Stop Haters. No tardaron a averiguar quién estaba detrás de las cuentas y, una vez que le avisaron de que sabían quién era y tomarían medidas al respecto, paró. Todo este acontecimiento hizo sentir a Nuria desesperada y psicótica. Ahora se siente segura. Pero no ha vuelto a hablar nunca con ningún desconocido por redes sociales. Y manda un mensaje a cualquiera que pueda pasar por una situación similar: “Que no acceda a los chantajes y que por favor pida ayuda rápido”.