La Inteligencia Artificial (IA) Generativa consiste en modelos de aprendizaje profundo, la cual analiza grandes cantidades de datos, predice y genera información; esta nueva información da como resultado nuevos datos, como lo son textos, imágenes, audio o video. En otras palabras, la IA generativa crea contenidos en respuesta a órdenes proporcionadas por el usuario.

Esta mega tendencia está cambiando y transformando todo a su paso. En los últimos meses se ha dado un crecimiento exponencial en las personas que usan aplicaciones generadoras. Entre los principales factores de dicho incremento está la accesibilidad a este tipo de código, dado que en una aplicación puedes realizar esta generación de datos.

Dichas herramientas también están dando paso a una transformación y evolución de la violencia digital, dado que los métodos que se usan cada día se entrenan por los usuarios que los usan, no necesariamente para dichos fines, si no para mejorar sus fotografías, para realizar textos o audios, etcétera. 

Por lo cual, prácticas como el acoso, intimidación, monitoreo, acecho, amenazas, suplantación, robo de identidad, entre otras, están en aumento; dado que las herramientas que proporciona la IAG favorecen la creación de contenidos digitales con la intención de dañar la integridad, seguridad y salud mental de las personas.

Por ejemplo, la creación de bots con el objetivo de enviar mensajes de amenaza o manipulación, uso de generadores de imágenes con la finalidad de manipular su imagen corporal, suplantación de rostros; uso de generadores de audio para falsear voces; generadores de video para suplantar la identidad de una persona; todo lo anterior con el objetivo de dañar la integridad de sus víctimas.

El uso de estas herramientas puede permitir a los atacantes emplear mecanismos automatizados y sostenidos en la víctima. 

La violencia digital no es algo que surja con la llegada de la IA, pero sí crea un ambiente donde se pueda defraudar en gran medida y todos podamos ser blancos, como la creación de noticias falsas, discursos de odio, hackear cuentas y acechar, crear desinformación, amenazar, etcétera. 

Una de las prácticas que se escucha en este momento y se escuchará en un futuro próximo es el deepfake, es decir, usar la IA para superponer la identidad de la persona, ya sea en imagen, audio o video, con la finalidad de extorsionar, burlarse, acosar, venta de contenidos, venganza, manipulación, etcétera. 

Dicha práctica tuvo una tasa de crecimiento de 464 por ciento, datos en comparación de 2022 al 2023. De 2019 a 2023 el deepfake tuvo un crecimiento de 550 por ciento, tan solo de videos. 

Los números no mienten, las mujeres son las más susceptibles a sufrir dichas prácticas, dado que 77 por ciento del deepfake es dirigido para dañar la integridad de la mujer.

Debemos recordar que la violencia digital también se vive en las escuelas, donde está siendo utilizada la IA para el ciberbullying y el ciberacoso, aunque a la par se están creando herramientas de IA generativas para ayudar a niños y niñas a la prevención y poner un alto a esta violencia digital en las aulas, aunque siguen siendo escasas en comparación con la gran cantidad de aplicaciones generadoras.

En este sentido, un análisis realizado por la Internet Watch Foundation encontró 20,254 imágenes generadas por IA que fueron publicadas en un foro de la web oscura, en un lapso de un mes en 2023, de las cuales 9,146 contenían imágenes de niños pero que no presentaban características criminales.

Pero 11,108 tenían la probabilidad de ser criminales, de las cuales 23 por ciento fueron catalogadas como pseudo fotografías criminales y 4 por ciento fueron catalogadas como imágenes criminales prohibidas.

La violencia digital no sólo se queda en la pantalla o en el medio electrónico. Esta práctica afecta la integridad, la salud mental y física de la persona que lo vive y de quien le rodea, dado que puede llegar a generar ataques de pánico, ansiedad, problemas de autoestima, afectar la realidad en la que vive, te aparta de amigos, trabajo, familia e intereses personales, así como la vulneración de los derechos fundamentales como la privacidad, protección de datos, por citar algunos ejemplos.

Con la llegada de algoritmos entrenados, aplicaciones que se basan en redes neuronales que están programadas para generar contenidos sólo de mujeres y niñas, muestra la relevancia de incentivar la ética, el panorama de los sesgos algorítmicos que se tiene en la actualidad y su necesidad de minimizarlos, y el fomento de la gobernanza en la IA.

El aumento de la violencia digital en la era de la IA no es algo que se debe tomar a la ligera, ya que esta práctica desincentiva a las personas al uso de herramientas TIC, poniendo un mayor énfasis en las mujeres, niñas y niños, quienes son los blancos de dichas prácticas, lo cual puede aumentar más la brecha digital de género. 

Recordemos que contrarrestar la violencia digital es tarea de todos.

Amazon, Anthropic, Google, Inflection, Meta, Microsoft y OpenAI, compañías líderes en el desarrollo de soluciones basadas en Inteligencia Artificial (IA), adoptaron una serie de compromisos con el gobierno estadounidense para “ayudar a avanzar hacia un desarrollo seguro, protegido y transparente de la tecnología de IA”, anunció la Casa Blanca.

En un comunicado, la Casa Blanca señaló que la administración del presidente Joe Biden obtuvo el “compromiso voluntario” de estas siete compañías para garantizar que el desarrollo de IA se realice de forma segura, sin comprometer los derechos y la seguridad de los estadounidenses. Los compromisos se enmarcan en tres principios: seguridad, protección y confianza.

Aunque la IA lleva en desarrollo varias décadas, la presentación de productos de IA Generativa como ChatGPT y DALL-E, atrajeron la atención del público hacia esta nueva tecnología con sentimientos encontrados entre asombro y preocupación, tanto por el impacto en la productividad que tendrán estas herramientas, pero también el riesgo por su posible papel en el desempleo y la desinformación.

Recomendamos: Reconocimiento facial respalda el sesgo algorítmico: expertos

En ese sentido, el rápido desarrollo de la IA ha provocado un debate sobre el mejor enfoque de regulación que garantice la seguridad en el uso de esta tecnología. Eric Schmidt, exCEO de Google, se había pronunciado por la adopción de un enfoque de autorregulación de IA, aunque la Unión Europea ya entró en la última fase para presentar una ley que restringe los usos de IA donde presenta un mayor riesgo.

Entre los compromisos anunciados entre la Casa Blanca y las compañías participantes se encuentran: garantizar que los productos sean seguros antes de presentarlos al público; sistemas de desarrollo que priorizan la seguridad, y ganar la confianza del público.

Bajo el primer eje, las empresas desarrolladoras se comprometieron a realizar pruebas de seguridad internas y externas de sus sistemas de IA antes de su lanzamiento, las cuales se llevarán a cabo por “expertos independientes”. Asimismo, las compañías agregarán mecanismos para facilitar el descubrimiento y la notificación de vulnerabilidades en sus sistemas de IA por parte de terceros, para garantizar la identificación de problemas aun cuando el producto haya sido lanzado al mercado.

Otros compromisos incluyen también el desarrollo de mecanismos técnicos sólidos para garantizar que los usuarios sepan cuándo se genera contenido mediante IA, como un sistema de marcas de agua digital.

También asumieron la publicación de un informe sobre las capacidades, limitaciones y áreas de uso apropiado e inapropiado de sus sistemas de IA. Este informe, según la Casa Blanca, cubrirá tanto los riesgos de seguridad como los riesgos sociales y los efectos sobre la equidad y el sesgo. Además, las compañías se comprometieron a compartir información en la industria y con los gobiernos, la sociedad civil y el mundo académico sobre la gestión de los riesgos de la IA.

Al tratarse de “compromisos voluntarios” asumidos por las empresas, estas medidas son parte de un enfoque autorregulatorio entre las empresas involucradas. En ese sentido, no está claro cómo o quién estará a cargo de revisar su cumplimiento, y qué significa para el resto de las compañías involucradas en el desarrollo que no forman parte de los compromisos anunciados.

Adicionalmente, la Casa Blanca informó que se buscará reforzar el trabajo con aliados y socios para establecer un marco internacional sólido para regir el desarrollo y el uso de la IA. Indicó que también se asumieron compromisos voluntarios con los gobiernos de Australia, Brasil, Canadá, Chile, Francia, Alemania, India, Israel, Italia, Japón, Kenia, México, Países Bajos, Nueva Zelanda, Nigeria, Filipinas, Singapur, Corea del Sur, Emiratos Árabes Unidos y Reino Unido.

En junio pasado, el líder de la mayoría del Senado de Estados Unidos, Chuck Schumer, anunció que se iniciarían las labores de redacción de una ley para regular la IA, entre las cuales se encuentran nueve paneles para identificar y discutir las cuestiones complejas como la forma de proteger a los trabajadores, la seguridad nacional, los derechos de autor y la defensa ante “escenarios del fin del mundo”.