Uruguay firmó el Convenio Marco del Consejo de Europa sobre Inteligencia Artificial (IA), Derechos Humanos, Democracia y Estado de derecho, el primer tratado internacional jurídicamente vinculante que tiene el objetivo de garantizar que el uso de sistemas de IA sea plenamente compatible con los derechos humanos, la democracia y el Estado de derecho.

De esta forma, Uruguay se convirtió en el primer país latinoamericano en firmar el tratado el pasado 2 de septiembre, y se sumó a los 16 signatarios previos, que incluyen Canadá, Israel, Japón y Estados Unidos, además de 11 Estados del Consejo de Europa y la propia Unión Europea.

El tratado fue firmado en Estrasburgo por el embajador de Uruguay en Francia, Enrique Emilio Loedel Soca, en presencia del secretario general adjunto del Consejo de Europa, Bjørn Berge.

El Convenio Marco proporciona un marco jurídico que abarca todo el ciclo de vida de los sistemas de IA. Promueve el avance y la innovación en materia de IA, mientras gestiona los riesgos que pueda suponer para los derechos humanos, la democracia y el Estado de derecho. Sus promotores aseguran que, en aras de resistir el paso del tiempo, es tecnológicamente neutro.

Fuente: Prensa MinTIC

En el marco del 11 Foro de Gobernanza de Internet Colombia 2024, el viceministro de Transformación Digital, Belfor García, destacó la importancia de abordar este tema con un enfoque centrado en los derechos humanos y en la superación de las brechas de conectividad en el país. Este evento se realizó entre el 20 y 21 de noviembre en Bogotá, y reunió a expertos, académicos y representantes del sector público y privado para discutir los retos y oportunidades del ecosistema digital, con énfasis en los derechos humanos, la inclusión social y la cooperación regional.

Durante su intervención, el viceministro García subrayó la necesidad de adoptar una visión global y holística, que permita incluir a todos los sectores de la sociedad, especialmente aquellos que históricamente han estado en desventaja: “el 80% de la población en Bogotá tiene acceso a Internet, pero esta realidad no se refleja en otras regiones del país. Es crucial reconocer estas desigualdades y trabajar para avanzar hacia una mayor inclusión, como lo ha señalado el Presidente al referirse a la Colombia Profunda. No podemos dejar a nadie atrás“, afirmó García.

Lee más.

La Inteligencia Artificial (IA) se encuentra en una etapa muy temprana, y aunque es así, ya representa algunos riesgos para los seres humanos, sobre todo hablando de temas éticos.

Expertos en IA en México se reunieron durante el “Conversatorio entre el Sector Comunicaciones, Academia y Startups, en Materia de Inteligencia Artificial”, para discutir sobre los riesgos de esta nueva tecnología.

Catalina Ovando, directora general de Política de Telecomunicaciones y Radiodifusión de la Secretaría de Infraestructura, Comunicaciones y Transportes (SICT), mencionó que uno de los principales riesgos de la IA es la parte del ego que a veces tiene el ser humano al no aceptar que no lo sabemos todo y que es necesario tener conciencia de nuestros sesgos cognitivos.

Relacionado: Así se deberán tratar los datos personales en sistemas de Inteligencia Artificial en Colombia

“Para mí antes del tema de Inteligencia Artificial, tiene que ver más el riesgo de qué tan conscientes somos de los fallos en el razonamiento que tenemos, las falacias argumentativas, porque de ahí parte justamente a veces nuestro uso de las plataformas de IA.

“Si nos centramos en el pensamiento crítico, en falacias argumentativas, en sesgos cognitivos, y tratáramos de ser conscientes y sobre todo un poco más humildes en el sentido de que nos falta mucho por aprender, y si nos centramos en el entender de nosotros mismos, las plataformas y el uso serían menos sesgados”, comentó la especialista.

Aida Huerta, secretaria de Posgrado e Investigación de la Facultad de Ingeniería de la UNAM, coincidió en que los sesgos del ser humano pueden ser parte del peligro a la hora de aplicar la IA en procesos.

Mencionó que existe una responsabilidad de no dejar a nadie atrás ni dejar a nadie fuera, a consecuencia de los sesgos.

“Sobre todo la protección de datos de los usuarios, eso es una parte clave. Y ahí sí animaría sobre todo a los desarrolladores. Primero, a no pedir datos de más y hacer muy consciente el ciclo de vida del dato, no es para siempre. O sea, primero, no pidas permisos más de los que necesites.

“Luego, el tema de derechos humanos, todo lo que tenga que ver con la libertad de la persona va muy de la mano del tema de datos, es clave. También la defensa de los activos críticos, infraestructuras críticas, a los datos de los usuarios. Desde esto, y antes, está muy ligado a lo que sería la ciberseguridad”, explicó la académica de la UNAM.

Jair Ramírez, vicepresidente de IA de la Unión Industrial del Estado de México (Unidem), explicó que uno de los riesgos de la Inteligencia Artificial puede estar relacionado con la interpretación de los datos que, desde su desarrollo, le coloque el propio ser humano.

“Los algoritmos tienen que ser muy sofisticados, porque se puede hacer un mal diagnóstico. Ese es un riesgo. Entonces, esa es la interpretación de lo que me está arrojando un algoritmo de IA, que en lugar de determinar o de detectar que es una enfermedad o una célula enferma, pues es una célula sana. Sólo que por el error que contiene el algoritmo, me estoy equivocando en un diagnóstico. Ese es un alto riesgo”, ejemplificó Ramírez.

Ernesto Priani, doctor en Filosofía por la UNAM y presidente de la Red de Humanistas Digitales, cuestionó que el ser humano sepa lo que significa la IA, y al no saber, existe un riesgo.

Agregó que la IA aplicada en diferentes usos hace más compleja su definición, y aumenta los riesgos.

“Si se dan cuenta, es como un paraguas, que incluye metodologías que se aplican de maneras muy diversas y que resultan en problemas muy diversos. Es decir, los problemas de riesgo y los problemas éticos que involucra un automóvil autónomo es muy distinto a los problemas involucrados en la vigilancia”, expresó Ernesto Priani.

Miguel Baez, subdirector de Investigación Cibernética de la Secretaría de Seguridad Ciudadana, aseguró que el reto es buscar el beneficio de la IA para toda la sociedad y en los diversos ámbitos de la vida de las personas.

“Instituciones privadas, academia y sector público tenemos que ponernos de acuerdo en cada uno de los sectores. Cómo queremos beneficiar a la población. Obviamente darle el acceso a todos. Que todos tengamos el acceso a las tecnologías; ahora a la Inteligencia Artificial, pero sobre todo, en mi caso, la seguridad.

“Que toda la IA que vamos a desarrollar aporte seguridad a la población. En nuestro caso, el uso de Inteligencia Artificial dentro de la policía, tenemos que enfocarnos mucho en respetar los derechos humanos y  sobre todo la privacidad de nuestros ciudadanos”, aseveró.

Prensa Telefónica

Telefónica es, según el primer Ranking Social 2024 (Social Benchmark) realizado por la World Benchmarking Alliance (WBA), la empresa tecnológica más responsable socialmente, de un total de 173, en relación con el respeto a los derechos humanos, la promoción del trabajo digno y la conducta ética.

La compañía, que se encuentra entre las 20 compañías con mejor puntuación a escala mundial, ha conseguido 14 puntos, siendo la mayor puntuación 15,5 sobre un máximo de 20, teniendo en cuenta los 18 indicadores sociales que se miden y sobre una base de 2.000 compañías.

El Ranking Social representa las expectativas sociales que las empresas deben cumplir para contribuir a una transformación que no deje a nadie atrás. La metodología de WBA consta de tres áreas de medición: el respeto de los derechos humanos; el impulso del trabajo decente, y la conducta ética en áreas como el lobby y la fiscalidad. “Juntas, estas tres áreas de conducta empresarial responsable son cruciales para permitir la transformación social”, señala WBA. No obstante, la entidad resalta que solo el 10% de las empresas “superan la mitad del camino”.

Alcanzar esta posición constituye un aliciente para Telefónica en su objetivo de seguir mejorando y cumplir con su propósito de compañía ‘Hacer nuestro mundo más humano conectando la vida de las personas’, como una de sus principales aportaciones a los ODS.

Comprometidos con la sociedad

Telefónica está comprometida con la sostenibilidad desde hace dos décadas, y todas sus acciones giran en torno a los ODS de la ONU, como se refleja también en su marco de financiación sostenible, verificado por Sustainalytics.

Ayudar a la sociedad a prosperar y liderar con el ejemplo para maximizar el impacto positivo son dos de sus principales líneas de su compromiso con las personas y con las sociedades en las que opera.

Prensa Telefónica

El Consejo de Europa adoptó el primer tratado internacional jurídicamente vinculante destinado a garantizar “el respeto de los derechos humanos, el Estado de derecho y las normas jurídicas democráticas en el uso de los sistemas de Inteligencia Artificial“. El documento promueve la adopción responsable de la tecnología al tiempo que ofrece un marco jurídico que considera los riesgos que podría ocasionar su implementación.

El tratado entiende como sistema de Inteligencia Artificial aquel “basado en una máquina que, para objetivos explícitos o implícitos, infiere, a partir de los datos que recibe, cómo generar resultados tales como predicciones, contenidos, recomendaciones o decisiones que puedan influir en las condiciones físicas o entornos virtuales. Los diferentes sistemas de Inteligencia Artificial varían en sus niveles de autonomía y adaptabilidad después del despliegue”.

El convenio es resultado de dos años de trabajo del Comité sobre IA, que reunió para la redacción del tratado a los 46 miembros del Consejo de Europa, la Unión Europea y 11 Estados no miembros: Argentina, Australia, Canadá, Costa Rica, Estados Unidos, Israel, Japón, México, Perú, la Santa Sede y Uruguay. También participaron como observadores representantes del sector privado, la sociedad civil y el mundo académico.

También lee: Nuevo Código Civil de Brasil incluye derechos digitales hasta después de la muerte

“Es el primer tratado mundial de este tipo que garantizará que la Inteligencia Artificial respete los derechos de las personas. Es una respuesta a la necesidad de una norma jurídica internacional, respaldada por Estados de distintos continentes, para aprovechar los beneficios de la Inteligencia Artificial, a la vez que se mitigan sus riesgos. Pretendemos garantizar un uso responsable de la IA que respete los derechos humanos, el Estado de derecho y la democracia”, dijo la secretaria general del Consejo de Europa, Marija Pejčinović.

Las partes deberán, por ejemplo, adoptar medidas para identificar, evaluar y prevenir posibles riesgos y analizar respuestas como la prohibición cuando los riesgos puedan resultar incompatibles con normas de derechos humanos. La adhesión contempla dos formatos de cumplimiento: sus participantes pueden escoger por quedar obligados directamente por las disposiciones o bien adoptar medidas para cumplir con ellas.

También queda entre las obligaciones de los firmantes el garantizar la disponibilidad de recursos legales para víctimas de violaciones de derechos humanos relacionados con sistemas IA. En tanto, tendrán que establecer un mecanismo de supervisión independiente para vigilar que se cumple con el convenio, el cual estará abierto para nuevos participantes en una conferencia que se desarrollará en Lituania el próximo 5 de septiembre.

El tratado está disponible para su lectura, aquí.

A partir de ahora, cada una de las agencias federales en Estados Unidos deberá designar a una persona que lidere los asuntos de Inteligencia Artificial, con el objetivo de vigilar el impacto del uso de la IA sobre los derechos humanos y la seguridad pública.

La Oficina de Gestión y Presupuesto emitió un memorando con las directrices y requerimientos que estas nuevas direcciones de IA deben cumplir en términos de gobernanza, innovación, gestión de riesgos, protección de datos y privacidad, entre otros.

Todas las agencias públicas tienen hasta 60 días, contados a partir del 28 de marzo, para nombrar a su jefe o jefa de Inteligencia Artificial, quien será responsable de garantizar que la institución se apegue a los requisitos legales y éticos del uso de la IA y también de promover la innovación.

De acuerdo con el memorando, los nuevos jefes de IA deben trabajar en estrecha coordinación con los responsables, funcionarios y organizaciones dentro de sus agencias correspondientes, ya que la IA está profundamente interconectada con otras áreas técnicas y políticas.

Te recomendamos: Superpotencias de Inteligencia Artificial: Estados Unidos, China y Europa en la batalla

El trabajo de los líderes de IA tendrá dos caras principales: una de ellas enfocada en el manejo de riesgos derivados del uso de la tecnología. Estos líderes garantizarán que las instituciones sigan prácticas y estándares mínimos de seguridad y responsabilidad al utilizar la IA en la toma de decisiones.

Por otro lado, los jefes de IA promoverán que las agencias aumenten su capacidad para adoptar la IA de forma responsable como una herramienta para modernizar sus operaciones y mejorar los servicios públicos.

Cada agencia deberá desarrollar una estrategia empresarial en la que detalle cómo avanzará en el uso responsable de la Inteligencia Artificial, tomando en cuenta la infraestructura de TI, el capital humano, los datos, la ciberseguridad y otros desafíos que se presentan en ese camino.

Relacionadas con las anteriores, otras de las tareas del nuevo jefe o jefa de IA serán servir como asesor principal de IA para el director de su respectiva agencias y otros altos mandos; diseñar procesos de gobernanza y supervisión del uso de la IA; mantener el conocimiento de las actividades de IA de la institución.

También llevar a cabo evaluaciones de riesgos; medir, monitorear y evaluar el desempeño continuo y la eficacia de las aplicaciones de IA; así como diseñar un plan de cumplimiento del memorando.

Destacado: Líderes se dieron cuenta que hay que estar mejor preparados para la IA: Gabriela Ramos, de Unesco

Los líderes de Inteligencia Artificial no podrán realizar estas obligaciones en solitario, sino que requerirán del trabajo en equipo con otros funcionarios de cada agencia.

En ese sentido, el memorando también establece que cada agencia deberá tener una junta de gobierno de IA, que será presidida por el vicepresidente de la institución y el jefe de IA. En ellas participarán, asimismo, funcionarios de alto rango que estén involucrados en el uso de esta tecnología.

Además, cada agencia tendrá que presentar un informe anual a la Oficina de Gestión y Presupuesto, en el que explicará los sistemas de IA que utiliza, cómo los emplea, los riesgos asociados y qué hace para mitigarlos.

La exigencia de que cada agencia federal designe a un jefe o jefa de Inteligencia Artificial se basa en los lineamientos de la Orden Ejecutiva sobre IA que el presidente Joe Biden emitió en octubre del año pasado.

Dicha orden instaba a las instituciones que abordaran los desafíos de la Inteligencia Artificial, desarrollando estándares para su uso y fortaleciendo al talento humano. Incluso, antes del memorando algunas agencias ya habían nombrado a directivos de IA.

Kamala Harris, vicepresidenta de Estados Unidos, destacó que la nueva medida busca “garantizar que la IA se use de manera responsable, entendiendo que debemos tener líderes de alto nivel en todo nuestro gobierno, quienes tienen la tarea específica de supervisar la adopción y el uso de la IA”.

Los nuevos líderes de IA velarán por el uso de la IA a favor del bienestar social bajo los parámetros del memorando y las leyes existentes, como las vinculadas con la transparencia, la privacidad y la protección de datos. Sin embargo, Estados Unidos aún no cuenta con una ley específica en la materia.

A medida que la Inteligencia Artificial (IA) se desarrolla a un paso vertiginoso y todavía inesperado, se acrecientan las preocupaciones por la falta de carriles éticos que guíen su implementación en América Latina.

Sólo tres de cada 10 empresas en la región cuentan con equipos encargados de velar por el uso ético de la IA, de acuerdo con un análisis de la consultora SmC+ y Salesforce. Y los principios que siguen no son del todo transparentes. 

Alejandro Anderlic, director de Asuntos Gubernamentales y Políticas Públicas de Salesforce para América Latina, afirma que la Inteligencia Artificial puede tener un impacto muy positivo en las economías de la región, pero todo dependerá de que se construyan bases sólidas para su uso en estricto apego a los derechos humanos.

Por eso, el ejecutivo de Salesforce propone cinco claves para avanzar hacia una adopción más ética y responsable: corresponsabilidad, transparencia, calidad de los datos, privacidad e inclusión.

En entrevista con DPL News, el especialista explica que la IA requiere trasladar los principios universales de protección de los derechos humanos al ámbito tecnológico, sin que esto signifique establecer marcos regulatorios apresurados que pongan una camisa de fuerza a la innovación.

“Si llevamos a la tecnología por el carril adecuado, cualquier desarrollo tecnológico que venga hacia adelante, cuando lo miremos hacia atrás, nos habrá hecho más humanos”.

“Es buscar la manera justamente de asegurarnos que vamos por el carril adecuado para que la tecnología sea una herramienta y no un arma, y que efectivamente tienda al progreso de la humanidad”, puntualiza el ejecutivo.

Destacado: Un año después de ChatGPT llega la ‘regulación’ de la Inteligencia Artificial

Lo más importante, destaca Anderlic, es poner al ser humano al centro del desarrollo tecnológico: como principal beneficiario de las nuevas herramientas y soluciones creadas a partir de la IA y también como quien tome la última decisión en temas sensibles.

1. Corresponsabilidad

Uno de los principios rectores que debería tener la adopción de sistemas de IA en la región, según Salesforce, es la corresponsabilidad. Esto quiere decir que el sector público, privado, organizaciones multilaterales e internacionales e instituciones científico-académicas necesitan involucrarse en el uso responsable y ético de esta tecnología.

“De alguna manera todos somos responsables, no solamente las industrias de tecnología que las creamos (las aplicaciones de IA); todas las organizaciones son responsables por el uso que se hace de la tecnología”.

“Podemos unirnos y adoptar principios y postulados generales, como por ejemplo podrían ser los que prevé Unesco, y buscar maneras de, no digo armar una biblia de principios de lo que hay que hacer, sino un decálogo, una declaración de principios diciendo ‘estos son los umbrales más allá de los cuales no vamos a ir’”.

“Creo que empezar por ponernos de acuerdo desde el sector privado con algo así sería súper importante. Y del lado de los gobiernos, hay una disparidad en cómo se está abordando el tema”

“Se podría intercambiar mejores prácticas entre gobiernos, ver qué se está haciendo en otras regiones, que de repente están un poco más avanzadas que nosotros en el desarrollo de políticas o de guías de uso. Y no apresurarse en sacar una regulación que después sea un corset a la innovación y que termine matando el desarrollo de tecnología”, señala Alejandro Anderlic.

2. Transparencia

La transparencia también debe ser un eje transversal en el uso de la Inteligencia Artificial. Dar acceso a la información acerca de cómo se diseñan, emplean y funcionan las soluciones de IA es fundamental para garantizar que se dé un uso ético.

“La transparencia es clave. Primero explicándole al usuario cómo es que termina recibiendo una información; o sea, explicándole cómo es el proceso, cómo se usan sus datos, cómo se garantiza la privacidad de sus datos, cómo se garantiza que los datos sean desagregados para que en ningún momento se vulneren derechos de las personas”.

“Que no se le mienta a la gente respecto del procedimiento que se está usando para darse los datos, que sean muy claros los términos de uso, creo que eso también hace a la transparencia”.

Alejandro Ardelic considera que “la transparencia también pasa muchísimo por ese lado, con que el usuario sea bien informado de qué implica estar usando una tecnología, que se le cuente todo”.

En buena medida, de la transparencia depende también la generación de confianza. Dicha confianza existirá “si la compañía está creando productos que efectivamente cumplen con estándares éticos y de responsabilidad”.

3. Calidad de los datos

Otro de los elementos importantes que están en el centro del desarrollo de la IA es la calidad de los datos, pues son los que alimentan los algoritmos y los sistemas de Inteligencia Artificial.

“El gran problema que tienen algunas herramientas de Inteligencia Artificial Generativa es que sacan conclusiones a partir de datos que pueden no ser correctos”, advierte Anderlic.

Cuando la calidad de los datos no es adecuada, la tecnología creada a partir de ellos puede reproducir sesgos y generar riesgos que afectan los derechos humanos.

Por eso, en su Recomendación sobre ética de la Inteligencia Artificial, la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) destaca la necesidad de que los procesos de selección y recolección de los datos estén bien cuidados, documentados, definidos, sean transparentes y representativos de las comunidades o grupos a los que afectan.

4. Seguridad

Alejandro Anderlic señala que el uso ética de la IA exige proteger también la privacidad y seguridad de los datos y garantizar que las personas siempre tengan la certeza de que siguen siendo dueños de su propia información.

La confianza en torno a cómo se utilizan los datos también marcará si una solución de Inteligencia Artificial es exitosa o no.

Para ello, se necesitan políticas y procedimientos que guíen el tratamiento adecuado de los datos.

Sin embargo, Salesforce y SMC+ muestran en un reciente estudio que en América Latina existe una limitada cultura de datos y poca transparencia respecto a su aprovechamiento.

Es decir, aunque se generan grandes volúmenes de datos, en realidad se utilizan muy pocos para la toma de decisiones, realizar modelos predictivos o desarrollar nuevos productos y servicios.

Precisamente, un obstáculo para promover un mayor aprovechamiento y creación de valor a partir de los datos es la falta de seguridad y confianza respecto a las tecnologías como la Inteligencia Artificial.

Te recomendamos: América Latina debe tener voz propia en la regulación de Inteligencia Artificial: Ángel Melguizo

5. Diversidad y representatividad

La representatividad en el desarrollo de la Inteligencia Artificial supone tomar en cuenta las características y necesidades de los diversos grupos que componen la sociedad, de manera que la tecnología sea inclusiva y efectiva.

“Tratamos que absolutamente todos los grupos que conforman la sociedad estén representados y que ninguno se vea dejado de lado o menoscabado por un sesgo en el momento que usamos la tecnología”, puntualiza Anderlic.

Para tener una visión amplia y diversa, también se requiere que los equipos encargados del diseño de los sistemas de IA sean diversos. Sin embargo, existen brechas importantes en los equipos de investigación y desarrollo alrededor de esta tecnología.

Sólo 11 por ciento de las investigaciones acerca de la IA son publicadas exclusivamente por mujeres, mientras que los hombres son autores exclusivos en un 55 por ciento de los papers.

Además, los hombres intervienen en 90 por ciento de las investigaciones sobre este tema; en contraste, las mujeres participan en 45 por ciento, de acuerdo con datos de la firma de análisis Elsevier.

El componente de género es una de las dimensiones que se deben abordar para garantizar la representatividad en la IA y mitigar los sesgos, pero existen varios más: la etnia, raza, clase social, edad y muchas más.

***

Alejandro Anderlic puntualiza que las empresas y todos quienes implementan la Inteligencia Artificial no tienen que partir de cero, pues los marcos ya existentes de derechos humanos deben tomarse como base para el uso ético de esta tecnología.

También ya existen esfuerzos a nivel internacional y regional en América Latina que buscan trazar los lineamientos bajo los cuales debe funcionar la IA.

La discusión sobre cómo crear una regulación de Inteligencia Artificial y con qué parámetros apenas está surgiendo en la región latinoamericana, y probablemente tomará más tiempo en madurar.

Mientras tanto, el ejecutivo de Salesforce considera que las empresas de tecnología deben asumir un rol de liderazgo para impulsar el uso ético y responsable de la IA.

“Las compañías de tecnología tenemos una misión especial y deberíamos tener un compromiso especial ―reflexiona―, para asegurarnos que la tecnología sea una herramienta que mejore nuestras vidas, que nos haga la vida más fácil, que nos ayude a trabajar mejor, que nos ayude a desenvolvernos mejor”.

A diferencia de lo que ocurría hace apenas un par de años, cuando se debatía si la Inteligencia Artificial (IA) debía o no regularse, ahora “no hay duda que se debe legislar”, expuso Josefina Román Vergara, en el 9º Foro Internacional sobre Retos de la Competencia en el Entorno Digital organizado por el Instituto Federal de Telecomunicaciones (IFT).

Durante su intervención en la mesa “Retos y límites de la competencia y la regulación en la era de la Inteligencia Artificial”, la comisionada del Instituto Nacional de Transparencia y Acceso a la Información Pública (INAI) explicó que la legislación de la IA debe hacerse desde una perspectiva de derechos humanos y poniendo a la persona al centro.

La IA tiene que ver mayormente con datos personales, detalló Román; sin embargo, destacó que el problema, la parte negativa, es el sesgo que podrían tener algunos algoritmos, por lo que hay que regularlos con los principios de transparencia y explicabilidad.

Digital X Files | Los peligrosos puntos ciegos de los algoritmos

Por su parte, la senadora Alejandra Lagunes destacó que es necesario un cambio de paradigma y debe hacerse una regulación responsable de la IA, para que no sea un ‘balazo en el pie’ ni una ‘camisa de fuerza a la innovación’, que contemple tres aspectos:

1. La ética en el desarrollo de sistemas de IA 
2. Los derechos humanos 
3. La innovación

Respecto al primer punto, la directora General Adjunta de Ciencias Sociales y Humanas de la Unesco, Gabriela Ramos, recalcó que, desde 2021, 193 países adoptaron la recomendación sobre la Ética en la IA y actualmente ya están avanzando en su implementación. Destacó el papel de las instituciones para gobernar la IA y el de las plataformas de diálogo, de las cuales la primera se llevó a cabo en la región de América Latina, en Chile, y dio como resultado la Declaración de Santiago.

Competencia y protección, dos desafíos

La fundadora del Centro i, Elena Estavillo, señaló que, en el tema de la Inteligencia Artificial, hay una convergencia de preocupaciones de competencia y protección del consumidor. Enfatizó que la concentración es algo que hay que ‘estar vigilando’, ya que el de la IA es un mercado muy concentrado.

La senadora Lagunes también destacó como uno de los principales retos internacionales la alta concentración de los mercados, que está dominada por unas cuantas empresas, como Meta, Amazon, Microsoft y Alibaba; así como países.

El profesor de la Universidad de Oxford, Ariel Ezrachi, coincidió con Estavillo y Lagunes, pues señaló que, si bien la IA representa oportunidades significativas y una ola de innovación, también implica dos preocupaciones principales: cómo afecta a la sociedad y a la competencia.

Ezrachi puntualizó que en la Inteligencia Artificial, la innovación no está impulsada por nuestra demanda, sino por ‘unos pocos jugadores muy poderosos que mandan en el mercado’. Pero vaticinó que permitirá que otros compitan, ya que les dará acceso a herramientas a través de la Nube, con lo que podrán lanzar productos y servicios más baratos y, eventualmente, la IA podría incrementar el poder de esas compañías.

Te puede interesar: Lo que no te dicen de los celulares plegables

La senadora Lagunes también señaló que estamos en un mundo bipolar, dominado por Estados Unidos y China, que están inmersos en una competencia económica y tecnológica. Por ello hay una falta de diversidad y representatividad del Sur Global, ya que 85 por ciento de los desarrollos se hacen en el Norte; por lo que se requiere más diversidad de culturas, lenguas, géneros e ideas, así como una mayor calidad de las bases de datos.

Ramos rememoró que, hace más de una década, cuando, como directora del Gabinete de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), asesoró a México en la implementación de la reforma de telecomunicaciones, el país perdía 2 por ciento del Producto Interno Bruto (PIB) por la falta de competencia en el mercado. Y en el contexto actual, la Inteligencia Artificial, y en particular la IA Generativa, avanza a pasos agigantados y afecta todas las esferas de nuestra vida.

Necesario actualizar ley: INAI

Como parte de las tareas pendientes en la regulación, Josefina Román expuso que la Ley Federal de Protección de Datos Personales en Posesión de Particulares (LFPDPPP), promulgada en 2010, requiere una actualización. La comisionada del INAI detalló que en su tiempo la ley fue bastante buena, pero no incluye nada sobre las Tecnologías de la Información y la Comunicación, de IA, ni de los neurodatos.

Román señaló que hace falta incluir ‘aquellas prácticas internacionales exitosas avanzadas’, en las que hasta ahora destaca la Unión Europea (UE). Además, como la IA toca transversalmente a muchas instituciones públicas, como el IFT, el INAI, la Cofece y la CNDH, dijo que su regulación debe ser transversal, incluyente y sumar esfuerzos de la sociedad civil, la academia y todas esas instituciones.

“No hay piso parejo”, aseveró Alejandra Lagunes. La senadora enfatizó que, por ello debe garantizarse el acceso a la conectividad y la formación en habilidades digitales, que ahora se traducen en capacidades de IA, así como la inclusión financiera y, sobre todo, la confianza digital.

Hizo énfasis en este último punto, pues recalcó que México es uno de los países más ciberatacados, tanto a la infraestructura del gobierno como a los ciudadanos. Expuso que se han presentado 27 iniciativas sobre ciberseguridad en el Congreso de la Unión y ‘no hemos podido aprobar ninguna’. Por ello, destacó la necesidad de crear un entorno de confianza digital y evitar sesgos.

Tanto Lagunes como Román coincidieron en que también es necesario legislar sobre neuroderechos, pues, a juicio de la comisionada, la regulación de los neurodatos ‘es el tema que sigue a la IA’.

Finalmente, Lagunes destacó que México es el quinto lugar en adopción en Inteligencia Artificial en América Latina y, por ello, recientemente la Alianza Nacional de Inteligencia Artificial (ANIA) presentó una iniciativa conjunta para que el Congreso pueda emitir legislaciones sobre “IA, ciberseguridad y neuroderechos”.

Los ministros y las ministras de Telecomunicaciones y Asuntos Digitales de la Unión Europea acordaron promover el desarrollo de una neurotecnología humanista, bajo un enfoque que dé paso a la innovación pero también proteja los derechos humanos.

Durante una Reunión Informal de Ministros celebrada en León, las y los líderes telco firmaron una declaración en la que se comprometen a velar por la colaboración público-privada para impulsar una neurotecnología humanista.

Su objetivo es incentivar a que la Unión Europea cuente con un ecosistema dinámico de investigación y desarrollo en neurotecnología; se creen incubadoras y aceleradoras de esta tecnología en la región, y se incentive la inyección de capital de riesgo o fondos de garantía en proyectos relacionados.

Al mismo tiempo, los ministros dijeron que el objetivo es que la Unión Europea vigile el desenvolvimiento ético de la neurotecnología, cuidando que se respeten los derechos humanos y los valores democráticos.

Te recomendamos: Unesco sugiere ampliar investigaciones en neurotecnología desde perspectivas éticas

El campo de la neurotecnología está avanzando rápidamente. Abarca una serie de sistemas que interactúan directamente con el cerebro o el sistema nervioso, con el fin de conocer cómo funcionan, reparar algunas funciones o mejorarlas.

Potencialmente, la neurotecnología aplicada traería consigo enormes beneficios y utilidades para la vida humana. Por ejemplo, puede utilizarse en la rehabilitación en patologías que producen un deterioro cognitivo (en pacientes con depresión o TDAH) o para recuperar una capacidad perdida.

Sin embargo, también plantea importantes riesgos para los derechos humanos y preocupaciones éticas. La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco) hizo un llamado en julio para abordar de forma urgente los problemas que pueden surgir a raíz del uso de la neurotecnología.

La organización advierte que este tipo de tecnología puede acceder directamente al cerebro, manipularlo y emular su estructura, y con ello producir información sobre nuestras identidades, nuestras emociones y nuestros miedos.

Además, si la neurotecnología se combina con la Inteligencia Artificial (IA) los riesgos serían mayores, pues las capacidades de la IA podrían utilizarse de forma negativa y amenazar los derechos humanos: la identidad humana, la libertad de pensamiento, la autonomía, la privacidad mental y la dignidad de las personas.

Por eso, algunos países y regiones del mundo ya están avanzando en la discusión sobre la regulación de la neurotecnología. Esto ha abierto la puerta a un nuevo conjunto de neuroderechos o derechos del cerebro; es decir, garantías para proteger la integridad mental, el libre albedrío y la no discriminación en el acceso a las neurotecnologías por parte de la ciudadanía.

También lee: Los 4 derechos que necesitas saber para proteger tu cerebro de la neurotecnología

Chile es uno de los países pioneros en este debate. En 2021, el Senado aprobó por votación unánime un proyecto de ley que modifica la Constitución para proteger los neuroderechos. Al año siguiente, la Cámara de Diputados también votó a favor de esta legislación, y ahora sólo falta la sanción presidencial.

España también ha avanzado hacia este camino. Su Carta de Derechos Digitales, emitida en julio de 2021, exhorta a los legisladores a regular la neurotecnología para garantizar los derechos digitales, una nueva cara de los derechos humanos.

Ahora, Nadia Calviño, vicepresidenta primera y ministra de Asuntos Económicos y Transformación Digital de España, destacó que “es el momento de que la Unión Europea se anticipe a los retos del futuro y refuerce su liderazgo en este ámbito tan importante para la vida de los ciudadanos europeos”.

Fiel a su vocación reguladora de las grandes empresas tecnológicas y de Internet, que se ha materializado en instrumentos como el Reglamento General de Protección de Datos (GDPR) y las leyes de Servicios y Mercados Digitales, (DSA y DMA, respectivamente), la Unión Europea dio los primeros pasos en la regulación de la Inteligencia Artificial (IA).

El Parlamento Europeo aprobó un proyecto con las primeras normas para regular la IA, las cuales buscan garantizar que los sistemas sean supervisados por personas, seguros, transparentes, rastreables, no discriminatorios y respetuosos con el medio ambiente.

El 11 de mayo, las comisiones de Mercado Interior y Libertades Civiles del Europarlamento aprobaron, con 84 votos a favor, 7 en contra y 12 abstenciones, un proyecto de mandato de negociación de Inteligencia Artificial.

En sus enmiendas a la propuesta de la Comisión Europea, los eurodiputados también asentaron la necesidad de que, por definición, la IA esté diseñada para ser tecnológicamente neutra, de modo que pueda aplicarse a los sistemas de IA presentes y futuros.

Recomendamos: WhatsApp podría abandonar el Reino Unido por ley que amenaza la privacidad

Enfoque europeo de la IA basado en riesgo

Las reglas siguen un enfoque basado en riesgos y establecen obligaciones para proveedores y usuarios dependiendo del nivel de riesgo que la IA pueda generar, e incluyeron una lista de prohibiciones de usos intrusivos y discriminatorios de los sistemas de IA:

• Sistemas de identificación biométrica remota “en tiempo real” en espacios de acceso público.
• Sistemas de identificación biométrica a distancia “post”.
• Sistemas de categorización biométrica que utilizan características sensibles (como género, raza, etnia, estado, ciudadanía, religión y orientación política). 
•  Sistemas policiales predictivos (basados en perfiles, ubicación o conducta delictiva pasada).
• Sistemas de reconocimiento de emociones en las fuerzas del orden, la gestión de fronteras, el lugar de trabajo y las instituciones educativas 
• Raspado indiscriminado de datos biométricos de las redes sociales o imágenes de CCTV para crear bases de datos de reconocimiento facial.

Y ampliaron la clasificación de áreas de alto riesgo para incluir daños a la salud, la seguridad, los derechos fundamentales o el medio ambiente; así como aquellos sistemas de IA que influyan en los votantes durante las campañas políticas y los de recomendación utilizados por las plataformas de redes sociales.

Medidas para la IA de uso general y de alto riesgo

Adicionalmente, los eurodiputados incluyeron obligaciones para los proveedores de modelos básicos, los cuales tendrán que garantizar una protección sólida de los derechos fundamentales, la salud y la seguridad, el medio ambiente, la democracia y el Estado de derecho.

Los modelos básicos generativos, como ChatGPT de OpenAI, tendrán que cumplir con requisitos de transparencia adicionales, como revelar el contenido que fue generado por IA, diseñar el modelo para evitar que genere contenido ilegal y publicar resúmenes de datos protegidos por derechos de autor utilizados para capacitación.

Antes de que comiencen las negociaciones con el Consejo sobre la forma final de la ley, este proyecto debe ser aprobado por todo el Parlamento, y se espera que se vote durante la sesión del 12 al 15 de junio.