Colombia define el marco para una adopción de IA ética en el sector público
La Comisión de Regulación de Comunicaciones (CRC) presentó una guía para lograr una adopción de Inteligencia Artificial ética en el Estado colombiano y evitar que la tecnología avance de forma fragmentada, opaca o riesgosa.
La Guía Ética para la Implementación, Desarrollo y Uso de Sistemas de Inteligencia Artificial en Entidades Públicas contó con el apoyo del Ministerio TIC, el Ministerio de Ciencia, Tecnología e Innovación, y el Departamento Nacional de Planeación, que presentó el Conpes de IA a 2030 en febrero de 2025.
La guía establece 6 principios fundamentales para la IA ética en el sector público colombiano. El primero es la centralidad humana y el bien público, que establece que la IA no debe sustituir la responsabilidad humana ni desplazar la toma de decisiones críticas, sino ampliar las capacidades del Estado para servir mejor a la ciudadanía.
“La tecnología debe fortalecer la equidad, la inclusión y la soberanía digital, y no convertirse en un mecanismo de exclusión, vigilancia desproporcionada o automatización injustificada”, subraya el documento.
El segundo principio es el de transparencia, explicabilidad y rendición de cuentas, que considera esencial para la legitimidad democrática de los sistemas de IA y enfatiza que las entidades públicas deben poder explicar cómo funcionan los algoritmos que utilizan, qué datos los alimentan y cómo influyen en las decisiones administrativas. Así como, una definición clara de responsabilidades humanas a lo largo de todo el ciclo de vida de los sistemas, desde su diseño hasta su operación.
La equidad, igualdad y no discriminación es el tercer eje central de la guía y exige medidas activas para prevenir impactos desproporcionados sobre poblaciones vulnerables, comunidades étnicas, territorios rurales o grupos históricamente excluidos.
El cuarto principio: privacidad, gobernanza de datos y seguridad, insta a cumplir estrictamente con la legislación vigente y aplicar principios como la minimización de datos, la privacidad desde el diseño y la protección reforzada de información sensible, especialmente si involucra menores.
Robustez, fiabilidad y seguridad es el quinto principio, que exige que los sistemas de IA del sector público sean técnicamente sólidos, resilientes frente a fallos y ciberataques, y sometidos a evaluaciones continuas de desempeño y riesgo.
El último principio: sostenibilidad ambiental y bienestar social establece que el diseño, desarrollo e implementación de sistemas de IA en el sector público deben incorporar una evaluación integral de sus impactos ambientales y sociales a lo largo de todo su ciclo de vida.
Te puede interesar: China propone un reglamento para controlar la IA que simula comportamientos humanos
Más allá de la formulación conceptual, la guía también se refiere a cómo llevar estos principios a la práctica, proponiendo habilitadores, salvaguardas y buenas prácticas concretas para las entidades públicas. El primero es la gobernanza institucional de la IA, que subraya la necesidad de estructuras claras de liderazgo, coordinación interinstitucional y definición de roles, que eviten la fragmentación de iniciativas y permitan una supervisión efectiva del uso de la IA en el Estado.
Además, advierte que no es posible una IA ética sin funcionarios capacitados para entender, supervisar y cuestionar los sistemas algorítmicos. Por ello, propone programas de formación continua, certificaciones, actualización curricular y la creación de un repositorio centralizado de conocimiento sobre IA en el sector público.
En cuanto a las salvaguardas, el documento propone implementar evaluaciones de impacto algorítmico y evaluaciones de impacto en derechos fundamentales antes del despliegue de sistemas de IA, especialmente en áreas sensibles como salud, justicia, seguridad, educación o asignación de beneficios sociales. Asimismo, se promueve el uso de mecanismos exploratorios de regulación, como sandboxes regulatorios.
La guía también aborda la compra pública de tecnología, señalando que los procesos de contratación deben incorporar criterios éticos, de transparencia y de explicabilidad, evitando dependencias tecnológicas opacas o soluciones que no permitan auditoría ni control por parte del Estado.
Recomendaciones para una IA ética en el sector público colombiano
La Guía Ética para la Implementación, Desarrollo y Uso de Sistemas de Inteligencia Artificial en Entidades Públicas de Colombia concluye que la IA representa una herramienta estratégica para modernizar el Estado, mejorar la productividad institucional y fortalecer la confianza ciudadana.
No obstante, advierte que su adopción debe estar guiada por una visión integral que priorice la protección de los derechos humanos y la dignidad de las personas sobre los criterios exclusivamente técnicos.
Bajo este enfoque, el documento formula cuatro recomendaciones clave orientadas a asegurar un despliegue ético, responsable y sostenible de la IA en el sector público.
La primera se centra en invertir estratégicamente en habilitadores clave, por lo que enfatiza en la necesidad de fortalecer la infraestructura de datos públicos, asegurando su calidad, representatividad, estandarización, interoperabilidad y protección.
Como segunda línea de acción, la guía recomienda implementar sistemas integrales de auditoría y evaluación para los sistemas de IA, especialmente aquellos considerados de alto riesgo, y propone el desarrollo de capacidades internas y externas para realizar Evaluaciones de Impacto Algorítmico (AIA) y auditorías sociotécnicas de manera regular y obligatoria.
Fomentar la transparencia proactiva y la explicabilidad es la tercera recomendación, para crear y mantener un registro público, accesible y actualizado de todos los sistemas de IA utilizados por las entidades nacionales, detallando su propósito, los datos empleados, los mecanismos de operación y los resultados de las evaluaciones de impacto.
Finalmente, la guía recomienda aprovechar y escalar las experiencias exitosas en el uso de IA dentro del sector público, tanto a nivel nacional como territorial. Para ello propone documentar de manera sistemática las lecciones aprendidas de iniciativas existentes, de modo que puedan servir como base para la replicación y adaptación de soluciones en otros contextos y funciones gubernamentales.
La guía colombiana se alinea con los principales marcos internacionales de ética de la IA, al integrar los principios de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), los lineamientos de gobernanza de Naciones Unidas, la Recomendación sobre la Ética de la IA de la Unesco y los aportes operativos del Alan Turing Institute.
Cabe aclarar que la guía no constituye una norma de obligatorio cumplimiento ni un marco regulatorio vinculante, sino un instrumento de orientación técnica y ética que entra a operar como una herramienta voluntaria de aplicación a partir de su publicación, el pasado 31 de diciembre de 2025.