ONU adopta histórica resolución sobre el uso seguro de la IA
La ONU advierte la necesidad de proteger y promover los derechos humanos y las libertades fundamentales durante todo el ciclo de vida de los sistemas de IA.
Por primera vez en la historia, la Organización de las Naciones Unidas (ONU) adoptó una resolución sobre la regulación de la Inteligencia Artificial (IA), que busca promover su uso seguro y sostenible.
La Asamblea General de la ONU adoptó sin votación este proyecto sobre la regulación de la IA inicialmente presentado por Estados Unidos. El texto fue respaldado por 120 Estados miembros.
A través de la resolución, Naciones Unidas alienta a los países a impulsar sistemas de IA seguros, protegidos y confiables que, a su vez, permitan el avance de la transformación digital y el acceso equitativo a los beneficios de la tecnología.
Una de las premisas principales del proyecto es que destaca la necesidad de proteger y promover los derechos humanos y las libertades fundamentales durante todo el ciclo de vida de los sistemas de Inteligencia Artificial.
ONU busca disminuir riesgos en uso de la IA
La IA es una tecnología muy poderosa que puede generar beneficios para la competitividad y productividad de los países, a través de sus múltiples aplicaciones en las industrias, la investigación científica, la salud o la educación.
Sin embargo, también podría generar daños y perpetuar formas de discriminación, sobre todo si los conjuntos de datos con los que se entrenan los sistemas y los algoritmos tienen sesgos de etnia, género o grupo social.
Por eso, la ONU advierte a los países que se abstengan de usar sistemas de IA que representen un riesgo para los derechos humanos, especialmente de quienes se encuentran en situaciones vulnerables.
La resolución destaca que los países, regiones, organizaciones internacionales, empresas, sociedad civil, academia y todos los demás actores involucrados deben elaborar y apoyar enfoques y marcos normativos de gobernanza para un ecosistema de IA seguro y sostenible.
Te puede interesar: ONU apoya creación de agencia internacional para regulación de Inteligencia Artificial
Esto implica, según la ONU, incentivar la difusión de conocimientos y tecnologías en condiciones acordadas mutuamente; reconocer las alianzas y cooperaciones eficaces; así como apoyar la innovación y el emprendimiento.
Además, el organismo señala que promover sistemas de IA seguros requiere de marcos normativos nacionales que estén en consonancia con ese principio; de medidas para la identificación, clasificación, evaluación, prueba, prevención y mitigación de riesgos; mecanismos de retroalimentación sobre vulnerabilidades técnicas, y la divulgación de información.
También se necesitan herramientas técnicas y prácticas, que sean accesibles, adaptables e interoperables a nivel internacional, para la autenticación de contenidos, especialmente en el caso de la IA Generativa.
Los países tendrían que ser capaces de determinar el origen de contenido auténtico y de aquel que ha sido generado o manipulado por IA.
Y cuando resulte pertinente, Naciones Unidas aboga por que se apliquen salvaguardias adecuadas para proteger los derechos de propiedad intelectual, incluido el contenido protegido por derechos de autor.
El desarrollo y evaluación de pruebas también es un aspecto destacado de la resolución. La organización destaca que los sistemas de IA deben ser evaluados, con el fin de vigilar que se respete la privacidad, los datos personales y la diversidad lingüística.
Destacado: América Latina debe tener voz propia en la regulación de Inteligencia Artificial: Ángel Melguizo
Sin embargo, estas y otras acciones contempladas en la resolución no podrán ser impulsadas por los Estados en solitario. La ONU resalta que los países deberían cooperar para determinar y evaluar los efectos de la implantación de sistemas de IA.
Por ejemplo, en el ámbito laboral se necesita mitigar las posibles consecuencias negativas de la automatización habilitada por la IA para la fuerza de trabajo, especialmente en los países en desarrollo.
La Asamblea General de Naciones Unidas hizo un llamado, asimismo, a los países para que aceleren el cierre de la brecha digital y aumenten la alfabetización digital, ya que son condiciones indispensables para que toda la población pueda utilizar y beneficiarse de la Inteligencia Artificial.
Linda Thomas-Greenfield, quien presentó la resolución, dijo que este proyecto es un paso hacia delante para promover un diálogo constructivo sobre los desafíos de la IA, a fin de “gobernar esta tecnología en lugar de dejar que ella nos gobierne a nosotros”.
La embajadora de Estados Unidos y representante permanente ante las Naciones Unidas afirmó que la resolución complementará futuras iniciativas de la ONU en la materia, incluidas las negociaciones hacia un pacto digital global y el trabajo del órgano asesor de alto nivel del Secretario General sobre IA.