La Inteligencia Artificial (IA) puede ser la mejor aliada de la administración pública, pero también un importante riesgo si no se implementa con un enfoque ético para evitar la reproducción de sesgos, resaltaron especialistas durante el Congreso Latinoamericano de Transformación Digital (CLTD).
María Isabel Mejía, ejecutiva Sénior de CAF-Banco de Desarrollo de América Latina, explicó que los sistemas de IA se pueden utilizar para automatizar tareas, procedimientos internos, mejorar la interacción con la ciudadanía, analizar problemas sociales, y hacer más eficientes las labores del gobierno.
Por ejemplo, la Inteligencia Artificial se utiliza en algunos proyectos para estudiar los factores de deserción escolar, con el fin de implementar medidas que permitan evitar que más personas abandonen sus estudios. También se aplica en los sistemas de justicia para optimizar los procesos, detectar redes de corrupción y cruzar bases de datos.
También consulta: Qué debe hacer América Latina para impulsar la Inteligencia Artificial
Si se usan sistemas de IA con datos confiables, íntegros y que no tengan sesgos, es posible obtener información para tomar decisiones más informadas y enfocar esfuerzos y recursos públicos a las zonas donde se necesita expandir la conectividad, añadió Salma Jalife, directora Ejecutiva de Centro México Digital.
No obstante, las expertas advirtieron que el uso de la Inteligencia Artificial también plantea importantes desafíos y riesgos, sobre todo para evitar afectaciones a los derechos humanos de la población y profundizar desigualdades y brechas sociales, étnicas, de género o clase.
Gabriela Gutiérrez Salas, directora General adjunta de Estadística y Análisis de Indicadores del Instituto Federal de Telecomunicaciones (IFT) de México, dijo que, por ejemplo, la IA mal ejecutada puede ser un candado para la movilidad social, ya que el encasillamiento en una clase social podría impedir que accedan a oportunidades para mejorar su calidad de vida.
Y en el ámbito de la salud, el uso de datos con sesgos de género en el diseño de programas y medicamentos repercute en que no se atiendan adecuadamente las necesidades fisiológicas de toda la sociedad, principalmente las mujeres.
Te recomendamos: 5 principios éticos de la Inteligencia Artificial para América Latina
En ese sentido, la especialista del IFT enfatizó que se deben tomar en cuenta las implicaciones éticas de la Inteligencia Artificial. Antes de implementar esta tecnología, se deben hacer diagnósticos acerca de la problemática a resolver, realizar un análisis multisectorial, identificar y caracterizar a los grupos de interés, diseñar soluciones específicas y modelos de colaboración, y seguir de cerca el monitoreo y evaluación de los resultados.
Gabriela Gutiérrez señaló que otras de las preocupaciones más apremiantes tienen que ver con la privacidad de los usuarios, la protección de datos personales, la transparencia acerca de cómo se utilizan estos datos, la trazabilidad, el manejo adecuado, la seguridad digital y la rendición de cuentas.
Si bien ya existen marcos normativos que abordan la protección de datos y temas relacionados con la IA, al tratarse de una tecnología emergente aún se están planteando cómo adaptar las legislaciones y reglas en materia TIC para impulsar su desarrollo, protegiendo la vida humana.