Big Tech se unen a iniciativa para proteger a niñas y niños de la IA Generativa

Un grupo de grandes empresas tecnológicas (Big Tech) se sumaron a la iniciativa de las organizaciones Thorn y All Tech para promover la seguridad de niñas y niños ante los riesgos de la Inteligencia Artificial (IA) Generativa.

Google, Amazon, Meta, Microsoft, OpenAI, Anthropic, Civitai, Mistral AI, Metaphysic y Stability AI se comprometieron a seguir los principios de seguridad por diseño creados por las dos organizaciones y otras empresas.

Este conjunto de principios busca proteger a las infancias de la creación y difusión de material de abuso sexual generado por la IA y de otros daños de índole sexual relacionados.

Los principios señalan que la seguridad de los sistemas de IA Generativa debe abordarse a través de todo el ciclo de vida de la tecnología, incluyendo las etapas tempranas de desarrollo, implementación y mantenimiento.

“Cada parte del proceso incluye oportunidades para priorizar la seguridad infantil, independientemente de la modalidad de datos (es decir, texto, imagen, video, audio) o si una organización publica su tecnología como fuente cerrada o abierta, o alguna opción de publicación entre estas dos”, detalla el documento.

Destacado: Internet seguro, condición necesaria para la autonomía digital de niñas y mujeres: Angie Contreras

Por eso, todos los agentes involucrados, incluyendo a desarrolladores, proveedores de IA, plataformas de alojamiento o motores de búsqueda, deben minimizar las posibilidades de que los sistemas de IA se utilicen indebidamente para provocar daños sexuales a niños y niñas.

Algunos de los principios que las Big Tech se comprometieron a seguir son la obtención responsable de conjuntos de datos que entrenan los modelos de IA Generativa; la incorporación de ciclos de retroalimentación y estrategias iterativas de pruebas de estrés en el desarrollo; así como emplear soluciones de procedencia de contenido para identificar el uso indebido.

También proteger los productos y servicios de IA de conductas y contenidos abusivos con opciones de informes o comentarios de usuarios; alojar modelos de manera responsable; al igual que invertir en investigación y soluciones tecnológicas futuras para luchar contra el abuso infantil en línea.

“Estamos en una encrucijada con la Inteligencia Artificial Generativa. Crear contenido a escala es ahora más fácil que nunca.

“De la misma manera que Internet ha acelerado los daños sexuales en línea y fuera de línea contra niños, el uso indebido de la IA Generativa tiene profundas implicaciones para la seguridad infantil, a través de la identificación de víctimas, la victimización, la prevención y la proliferación de abusos”, advierten Thorn y All Tech.

Sólo en Estados Unidos en 2023, se denunciaron más de 104 millones de archivos por sospecha de abuso sexual infantil. Ya existen múltiples tecnologías que se han empleado indebidamente para este tipo de delitos.

Te puede interesar: Europa busca tipificar como delito material de abuso infantil generado con IA

Ahora, la irrupción de la IA Generativa plantea riesgos adicionales y podría exacerbar las violencias contra niñas y niños alrededor del mundo.

En ese sentido, las organizaciones alertan que es necesario avanzar en la prevención del uso indebido de Internet y en la seguridad digital de las infancias.

“Hay muchas organizaciones que han buscado una gobernanza transparente y colaborativa de su servicio, previniendo, detectando, eliminando y reportando el abuso sexual infantil. Sin embargo, el hecho es que este trabajo sigue siendo una batalla cuesta arriba”.

Este enorme desafío no se podrá lograr sin las grandes empresas de Internet, quienes tienen el poder de salvaguardar para eliminar los riesgos de abuso sexual contra las infancias con una mínima fricción.

Si bien el ecosistema de seguridad infantil es mucho más amplio que sólo las Big Tech, las organizaciones esperan que su compromiso con los principios sea un paso hacia delante para una mayor colaboración de todas las partes interesadas centrándose en las víctimas.