Ocho grandes empresas y organizaciones de tecnología y telecomunicaciones se comprometieron a implementar los principios recomendados por la Unesco para promover un diseño y uso de la Inteligencia Artificial (IA) más ético y responsable.
Microsoft, Lenovo, LG AI Research, Salesforce, Mastercard, Telefónica, GSMA e INNIT firmaron el lunes un acuerdo con la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) para construir una IA más ética.
El convenio se dio en el marco del Foro Global sobre la Ética de la IA 2024, organizado por el organismo internacional en conjunto con el gobierno de Eslovenia.
Como parte de este acuerdo, las ocho grandes compañías adoptarán la Recomendación de la Unesco sobre la Ética de la Inteligencia Artificial, un marco normativo que la organización creó en el año 2021.
Dicho instrumento contempla una serie de principios y valores para el desarrollo y aprovechamiento de la Inteligencia Artificial, al reconocer tanto las implicaciones positivas como las negativas de esta tecnología.
La Unesco busca sentar las bases para garantizar que los sistemas de IA estén al servicio de la humanidad, las personas, las sociedades y el medio ambiente.
Te recomendamos: Un año después de ChatGPT llega la ‘regulación’ de la Inteligencia Artificial
Por ello, su Recomendación pretende que las múltiples partes interesadas, como los gobiernos y empresas, asuman una responsabilidad compartida a favor del uso ético y responsable de la IA.
El instrumento propuesto por la Unesco no es obligatorio, por lo que depende de la voluntad de las organizaciones y autoridades de sumarse a él. Hasta ahora, es el único marco internacional respaldado en la materia.
Al firmar el acuerdo con la Unesco, las empresas se comprometen a asumir plenamente su papel a la hora de garantizar la protección de los derechos humanos durante el diseño, el desarrollo, la compra, la venta y el uso de la IA.
La Unesco destacó que esta es la primera vez que un grupo de empresas se alinean con esta responsabilidad en torno a la Inteligencia Artificial ante las Naciones Unidas.
Además de alinearse a los principios recomendados por el organismo, las compañías deberán establecer procedimientos de verificación para garantizar que sus sistemas de IA cumplan las normas de seguridad.
También se tendrán que implementar pruebas para identificar los efectos nocivos de la IA y garantizar que pueden adoptarse medidas para prevenir, limitar o corregir los riesgos, de conformidad con las legislaciones nacionales.
El acuerdo, asimismo, subraya la importancia de las pruebas ex ante (antes de comercializar un nuevo sistema de IA) y también pide que se desarrollen prácticas de evaluación y mitigación de riesgos ex post (después de la aplicación), dada la rápida evolución de los sistemas existentes.
Digital Trends | Superpotencias de Inteligencia Artificial: Estados Unidos, China y Europa en la batalla
China quiere sumarse al esfuerzo global
En la discusión sobre la Inteligencia Artificial que se dio en el Foro Global sobre la Ética de la IA, también estuvo presente el viceministro de Educación de China, Wang Jiayi.
Wang Jiayi manifestó la intención de China en participar en los esfuerzos globales para promover un marco ético y de gobernanza sobre la IA, en beneficio de la humanidad.
China está dispuesta a escuchar y dialogar con todas las partes; mantener comunicaciones e intercambios de conocimiento, y a cooperar de forma pragmática sobre la IA con el objetivo de diseñar conjuntamente un mecanismo de gobernanza abierto, justo y eficaz de la IA, dijo el viceministro.
Una de las disposiciones de su marco normativo se refiere a que las empresas que diseñan servicios y productos de IA Generativa deben realizar revisiones de seguridad y registrar sus algoritmos ante el gobierno en caso de que sus soluciones puedan influir en la opinión pública.
El país asiático ha sido uno de los primeros en el mundo en regular la Inteligencia Artificial Generativa. En julio del año pasado, la Administración del Ciberespacio emitió un conjunto de directrices en la materia.
