La violencia digital: las modalidades están cambiando
La Inteligencia Artificial (IA) Generativa consiste en modelos de aprendizaje profundo, la cual analiza grandes cantidades de datos, predice y genera información; esta nueva información da como resultado nuevos datos, como lo son textos, imágenes, audio o video. En otras palabras, la IA generativa crea contenidos en respuesta a órdenes proporcionadas por el usuario.
Esta mega tendencia está cambiando y transformando todo a su paso. En los últimos meses se ha dado un crecimiento exponencial en las personas que usan aplicaciones generadoras. Entre los principales factores de dicho incremento está la accesibilidad a este tipo de código, dado que en una aplicación puedes realizar esta generación de datos.
Dichas herramientas también están dando paso a una transformación y evolución de la violencia digital, dado que los métodos que se usan cada día se entrenan por los usuarios que los usan, no necesariamente para dichos fines, si no para mejorar sus fotografías, para realizar textos o audios, etcétera.
Por lo cual, prácticas como el acoso, intimidación, monitoreo, acecho, amenazas, suplantación, robo de identidad, entre otras, están en aumento; dado que las herramientas que proporciona la IAG favorecen la creación de contenidos digitales con la intención de dañar la integridad, seguridad y salud mental de las personas.
Por ejemplo, la creación de bots con el objetivo de enviar mensajes de amenaza o manipulación, uso de generadores de imágenes con la finalidad de manipular su imagen corporal, suplantación de rostros; uso de generadores de audio para falsear voces; generadores de video para suplantar la identidad de una persona; todo lo anterior con el objetivo de dañar la integridad de sus víctimas.
El uso de estas herramientas puede permitir a los atacantes emplear mecanismos automatizados y sostenidos en la víctima.
La violencia digital no es algo que surja con la llegada de la IA, pero sí crea un ambiente donde se pueda defraudar en gran medida y todos podamos ser blancos, como la creación de noticias falsas, discursos de odio, hackear cuentas y acechar, crear desinformación, amenazar, etcétera.
Una de las prácticas que se escucha en este momento y se escuchará en un futuro próximo es el deepfake, es decir, usar la IA para superponer la identidad de la persona, ya sea en imagen, audio o video, con la finalidad de extorsionar, burlarse, acosar, venta de contenidos, venganza, manipulación, etcétera.
Dicha práctica tuvo una tasa de crecimiento de 464 por ciento, datos en comparación de 2022 al 2023. De 2019 a 2023 el deepfake tuvo un crecimiento de 550 por ciento, tan solo de videos.
Los números no mienten, las mujeres son las más susceptibles a sufrir dichas prácticas, dado que 77 por ciento del deepfake es dirigido para dañar la integridad de la mujer.
Debemos recordar que la violencia digital también se vive en las escuelas, donde está siendo utilizada la IA para el ciberbullying y el ciberacoso, aunque a la par se están creando herramientas de IA generativas para ayudar a niños y niñas a la prevención y poner un alto a esta violencia digital en las aulas, aunque siguen siendo escasas en comparación con la gran cantidad de aplicaciones generadoras.
En este sentido, un análisis realizado por la Internet Watch Foundation encontró 20,254 imágenes generadas por IA que fueron publicadas en un foro de la web oscura, en un lapso de un mes en 2023, de las cuales 9,146 contenían imágenes de niños pero que no presentaban características criminales.
Pero 11,108 tenían la probabilidad de ser criminales, de las cuales 23 por ciento fueron catalogadas como pseudo fotografías criminales y 4 por ciento fueron catalogadas como imágenes criminales prohibidas.
La violencia digital no sólo se queda en la pantalla o en el medio electrónico. Esta práctica afecta la integridad, la salud mental y física de la persona que lo vive y de quien le rodea, dado que puede llegar a generar ataques de pánico, ansiedad, problemas de autoestima, afectar la realidad en la que vive, te aparta de amigos, trabajo, familia e intereses personales, así como la vulneración de los derechos fundamentales como la privacidad, protección de datos, por citar algunos ejemplos.
Con la llegada de algoritmos entrenados, aplicaciones que se basan en redes neuronales que están programadas para generar contenidos sólo de mujeres y niñas, muestra la relevancia de incentivar la ética, el panorama de los sesgos algorítmicos que se tiene en la actualidad y su necesidad de minimizarlos, y el fomento de la gobernanza en la IA.
El aumento de la violencia digital en la era de la IA no es algo que se debe tomar a la ligera, ya que esta práctica desincentiva a las personas al uso de herramientas TIC, poniendo un mayor énfasis en las mujeres, niñas y niños, quienes son los blancos de dichas prácticas, lo cual puede aumentar más la brecha digital de género.
Recordemos que contrarrestar la violencia digital es tarea de todos.
