Cinco agencias de las Naciones Unidas, incluyendo la Unión Internacional de Telecomunicaciones (UIT), ministros, diplomáticos, ejecutivos de industria, académicos y sociedad civil se reunieron este 29 de mayo para dialogar sobre cómo se pueden construir marcos de gobernanza de la Inteligencia Artificial (IA).
La IA promete transformar las economías y las sociedades de maneras todavía hoy insospechadas, pero de las que ya existen algunas muestras: aplicaciones industriales, servicios enfocados en la medicina y la salud o los modelos de lenguaje grande que están detrás de sistemas como ChatGPT.
Sin embargo, a medida que esta tecnología avanza, también crecen las preocupaciones acerca de sus potenciales riesgos y cómo prevenirlos y mitigarlos sin inhibir los beneficios de la IA.
Actualmente, la mayoría de los países del mundo carecen de marcos de gobernanza de IA, afirmó Doreen Bogdan-Martin, secretaria general de la UIT durante el AI Governance Day organizado por las Naciones Unidas.
Por eso, la UIT está avanzando en el desarrollo de directrices para la creación de dichos marcos, que pongan la Inteligencia Artificial al servicio del desarrollo sostenible y del bien común.
Te recomendamos: El futuro de la IA aún está por escribirse: ONU llama a impulsar un uso inclusivo y responsable
Bogdan-Martin comentó que la organización considera que hay tres componentes clave que deben incluirse en los marcos de gobernanza de la IA alrededor del mundo:
- Desarrollo de estándares técnicos.
Los estándares técnicos pueden ayudar a implementar salvavidas efectivos contra los riesgos que plantea la IA. Actualmente, la UIT ya tiene alrededor de 200 estándares desarrollados y en desarrollo.
Bodgan-Martin señaló que se necesitan estándares globales que permitan hacer los sistemas de IA más confiables, explicables, seguros y transparentes.
De esta manera, se pueden también detonar diversos casos de innovación con la IA, producidos tanto por grandes como pequeños actores en el mercado.
- Derechos humanos e inclusión.
La UIT recomienda poner los derechos humanos y la inclusión en el corazón de la gobernanza de la IA. Todos los actores involucrados merecen tener voz en el diseño de los marcos de gobernanza.
Sin embargo, hasta ahora hay un número limitado de actores que pueden costear los recursos de cómputo para producir aplicaciones de IA y se concentran en unos cuantos gobiernos y empresas los equipos que diseñan los modelos fundacionales.
Doreen Bogdan-Martin advirtió que el poder de la IA está concentrado en las manos de unos pocos, lo cual es riesgoso y no ético para la humanidad. Por eso, los esfuerzos internacionales deben tomar en cuenta las necesidades de todos los países y pugnar por distribuir el poder equitativamente.
- Desarrollo inclusivo.
Los marcos de gobernanza deben promover el desarrollo inclusivo, de manera que todas las personas tengan capacidad de construir en la era de la Inteligencia Artificial.
Tenemos que asegurarnos de que cada persona en el mundo del trabajo pueda manejar la IA y fomentar capacidades para abordar la IA, sobre todo entre las poblaciones más vulnerables, afirmó la secretaria general de la UIT.
Destacado: Empresas latinoamericanas invertirán 46% más en Inteligencia Artificial en 2024
Aún existen muchas incógnitas acerca de la Inteligencia Artificial, sus alcances, aplicaciones e implicaciones en el futuro de la humanidad.
“¿Cómo gobernamos una tecnología de la que todavía no conocemos su potencial completo?”, increpó Doreen Bodgan-Martin.
“Ya hemos estado en este punto. Hace 20 años, nos hicimos estas preguntas con el advenimiento de Internet. De hecho, tampoco sabemos todavía todo el potencial de Internet”, añadió.
Si bien la comprensión de la IA es una tarea incompleta y será continua a medida que los sistemas evolucionen, la ejecutiva de la UIT comentó que es un tiempo oportuno para plantear modelos de gobernanza que reconozcan sus oportunidades como desafíos.
América Latina, lista para participar en la gobernanza de IA
Uno de los asistentes en el encuentro de Naciones Unidas fue el ministro de Tecnologías de la Información y Comunicaciones de Colombia, Mauricio Lizcano, quien planteó las preocupaciones de América Latina respecto a la regulación de la IA.
Lizcano coincidió con Bogdan-Martin en la necesidad de integrar todas las voces en el debate. Las decisiones sobre la IA no pueden estar en manos de unos pocos, por lo que la discusión en torno a la tecnología se debe democratizar, añadió.
América Latina está preparada —dijo Lizcano— para participar en el debate internacional en torno a la Inteligencia Artificial, donde espera exponer sus preocupaciones y sus necesidades específicas para dar un uso más responsable y productivo de la IA.
El ministro expuso que Colombia considera que deben tomarse en cuenta dos factores esenciales en la gobernanza: uno es que tienen que ser los seres humanos quienes gobiernen la IA y no al revés; la otra es garantizar que la competencia entre las empresas que desarrollan y comercializan la IA priorice la seguridad de las personas.
Además, señaló que “debemos tener datos inclusivos y producir datos para todo el mundo, porque se están produciendo especialmente en Estados Unidos y Europa. Y regiones como América Latina no tenemos, por ejemplo, grandes modelos de lenguaje, así que primero necesitamos producir eso en nuestros países”.