Países latinoamericanos firman declaración contra generación de imágenes íntimas con IA
La última semana de febrero, un conjunto de autoridades rectoras de protección de datos de diversos países del mundo firmaron una declaración conjunta sobre los sistemas de Inteligencia Artificial (IA) que generan imágenes y videos realistas que representan a individuos identificables sin su conocimiento y consentimiento.
Por parte de Latinoamérica, firmaron entidades de Argentina, Bermudas, Brasil, Colombia, Ecuador, México, Panamá, Perú y Uruguay.
Mientras que, a nivel subnacional, se adhirieron instituciones de la Ciudad Autónoma de Buenos Aires (CABA) en Argentina y los estados de México y Nuevo León, y algunos municipios de la entidad más poblada del país homónimo.
Ahora bien, si se toma en cuenta a todo el continente, por el lado de Norteamérica, firmó Canadá y, en su interior, las provincias de Alberta y Quebec.
Riesgos por imágenes sexuales
Los consignatarios reconocieron que, si bien la IA puede aportar beneficios significativos para las personas y la sociedad, los avances recientes y, en particular, la generación de imágenes y videos mediante IA, integrada en plataformas de amplio acceso, “ha permitido la creación de imágenes íntimas no consensuadas, representaciones difamatorias y otro contenido dañino que presenta a personas reales”.
Por esa razón, manifestaron su preocupación sobre los posibles daños, especialmente a los niños y otros grupos vulnerables, derivados del ciberacoso o la explotación.
Los órganos signantes señalaron que, si bien los requisitos legales específicos varían según la jurisdicción, hay cuatro principios fundamentales que deben seguir todos los desarrolladores de sistemas de generación de contenido con IA:
- Implementar medidas de seguridad sólidas.
- Garantizar una transparencia significativa.
- Proporcionar mecanismos eficaces y accesibles.
- Abordar los riesgos específicos que enfrentan los niños.
Respuesta coordinada
En ese sentido, advirtieron que los daños que surgen de la generación no consentida de contenido íntimo difamatorio o dañino que representa para personas reales son significativos y exigen una atención regulatoria urgente.
Y, por ello, llamaron a las organizaciones que colaboran con los reguladores a implementar salvaguardas sólidas desde el principio y garantizar que el avance tecnológico no se produzca “a expensas de la privacidad, la dignidad, la seguridad y otros derechos fundamentales, en particular de los más vulnerables de nuestra sociedad global”.