La Inteligencia Artificial en la administración pública y la regulación sectorial
La presidenta electa, Claudia Sheinbaum Pardo, ha establecido en su propuesta de gobierno lo siguiente:
- Evolucionar de la Ley de Mejora Regulatoria a la Ley General de Simplificación y Digitalización.
- Teniendo como objetivo las siguientes métricas:
- 50% menos trámites.
- 50% menos costo en tiempo.
- 50% menor requisitos y
- 80% de los procesos de los trámites que prevalezcan sean digitalizados.
Los anteriores objetivos presentan una oportunidad idónea para incorporar el uso creciente de la Inteligencia Artificial (IA) y la automatización en la administración gubernamental, lo cual obviamente exigirá reformas en el marco de nuestro derecho administrativo y la gobernanza entre los entes públicos y los partícipes en las diferentes actividades económicas.
A nivel global las agencias o entidades gubernamentales están implementando sistemas de IA y automatizados para diversas tareas, y exploran cómo es posible que esta tendencia se acelere en los próximos años.
Existe un vasto conjunto de oportunidades en el tránsito de la interacción con burócratas a la interacción con sistemas digitales para obtener un mismo servicio, en menor tiempo y costos.
En un Estado con prioridad en los programas sociales, en lugar de que burócratas ejerzan discreción en decisiones sobre la dispersión de los beneficios de tales programas, como decidir sobre si los reclamantes individuales califican para los beneficios por nivel de ingresos o por discapacidad, las entidades a cargo podrán confiar en sistemas automatizados para tomar estas decisiones.
Con un sistema de procesamiento de reclamaciones, por ejemplo, importando automáticamente una amplia gama de datos de registros médicos electrónicos, geolocalización e identificación de tales personas y sus familias, utilizar un sistema de Inteligencia Artificial para procesar estos datos y determinar si los solicitantes cumplen con un umbral de probabilidad específico para calificar para los beneficios sociales. Los beneficios de inhibir casos de corrupción son inmediatos.
Los objetivos iniciales de la incorporación de la IA en la administración pública y sus relaciones con la ciudadanía incluyen:
1. Adopción creciente de IA/automatización
En las entidades de gobierno, al menos a nivel federal, en casos tales, como los ilustra la Presidenta electa, en materia de tributación (SAT y aduanas), parecen que serán los primeros en adoptar tal estrategia de transformación.
Entre los usos que se pueden dar a la IA se encuentran:
- Procesamiento de solicitudes y entrega de beneficios sociales (seguridad social, discapacidad, seguro de desempleo).
- Focalización de inspecciones y auditorías.
- Análisis de consultas públicas sobre propuestas regulatorias (v.gr consultas públicas de la Conamer a los proyectos de cambios regulatorios o emisión de nuevas regulaciones).
- Detección de fraudes y errores en programas gubernamentales.
- Predicción de ubicaciones para la prevención del crimen, incluido reconocimiento facial.
- Resolución automatizada de controversias y disputas.
Lo anterior nos puede llevar a un “estado automatizado” donde muchas funciones gubernamentales sean llevadas a cabo por sistemas de IA con una mínima participación humana.
Coglianese (2021)[1] expone como ejemplo el caso de Estonia. El proyecto e-Estonia ha transformado su administración pública al digitalizar y almacenar de forma segura grandes cantidades de información sobre individuos, desde su atención médica, registros sobre su situación laboral y financiera.
La plataforma cruza a través de una infraestructura digital llamada X-Road, de modo que cualquier entidad que los necesite puede acceder instantáneamente a los registros de una persona. Este nivel de digitalización ha facilitado la automatización de los servicios gubernamentales de tal que los individuos pueden, a mínimo costo en recursos y tiempo, votar, solicitar un préstamo, presentar sus impuestos y completar otras tareas administrativas sin necesidad de interactuar con un funcionario humano, simplemente transfiriendo y compartiendo su información digital para completar formularios y enviar solicitudes.
Al automatizar muchos de sus procesos burocráticos, Estonia ha estimado un ahorro de hasta 2 por ciento de su PIB anual. Otros países con plataformas semejantes son Corea del Sur y Dinamarca.[2]
En Estados Unidos se pueden señalar los siguientes casos:[3]
- El Servicio de Ciudadanía e Inmigración en Estados Unidos (USCIS) utiliza un asistente virtual de IA llamado Emma para responder preguntas básicas y ayudar a las personas a navegar por el sitio web de la agencia.
- El FBI usa la IA para localizar niños desaparecidos, difundiendo en tiempo real la información a las agrupaciones de seguridad locales por reconocimiento facial.
- En Chicago, la autoridad de tránsito se apoya en IA para administrar la flota de autobuses mediante el análisis de los patrones de desplazamiento y la predicción de la demanda de pasajeros en tiempo real.
2. Beneficios potenciales de la automatización
– Precisión y consistencia en la toma de decisiones.
– Reducción de costos (incluido el tiempo) y las cargas administrativas.
– Capacidad para manejar mayores volúmenes de datos y casos.
– Potencial para decisiones objetivas y menos sesgadas por la intervención del factor humano.
– Liberar a los funcionarios humanos de tareas rutinarias para enfocarse en cuestiones más complejas.
3. Compatibilidad con los principios del derecho administrativo
Un creciente uso de la IA y la automatización en la administración gubernamental debe de ser compatible con los principios existentes del derecho administrativo en México. Sin que el suscrito sea un licenciado en derecho, considero que los objetivos clave incluyen:
- Obligaciones de transparencia para los modelos de IA que permita una mejor comprensión de dichos modelos, sus alcances y limitaciones, así como requisitos de ciberseguridad.
- En México, los juzgados han delegado la interpretación de las leyes sectoriales a la experiencia técnica de las agencias regulatorias (sobre todo las autónomas como el IFT y la Cofece), apoyándose en la presunción de legalidad de los actos regulatorios y que tales entidades son autónomas y expertas en su área, lo cual no necesariamente es correcto, por lo cual el auxilio de las pruebas periciales se extendería a incluir los sistemas algorítmicos (Large Language Models) como auxiliar del juzgador en sus respectivas áreas.[4]
- Reducir la discrecionalidad. Los sistemas automatizados pueden potencialmente mejorar el quehacer judicial al implementar e interpretar con precisión los mandatos legislativos, (términos como “medidas proporcionales y razonables” y la existencia o ausencia de “competencia efectiva”, que no tienen una definición en ley, son huecos que dan lugar a discrecionalidad y, por lo tanto, a un tratamiento sesgado entre agentes económicos. La interpretación del contenido de la ley, frecuentemente difuso o sujeto a interpretación es una fuente de riesgo para los agentes económicos, toda vez que dependen en gran medida de la toma de decisiones humanas.
Como resultado, se incurre en fallas del gobierno, desde grandes costos privados y sociales hasta ineficiencias procedimentales, que se remontan a las limitaciones a la toma de decisiones humanas.
Incluso cuando los humanos actúan con buenas intenciones, sus decisiones pueden ser propensas a una amplia gama de sesgos cognitivos, limitaciones físicas, presiones externas y errores básicos de argumentación o ignorancia o indisponibilidad de datos.
En los sectores regulados (telecomunicaciones, energía, etc.) es frecuente observar el sesgo de confirmación donde las conclusiones anteceden al análisis.
El factor humano tiende a buscar y favorecer información que confirme sus prejuicios existentes y tiende a ignorar o descartar información inconsistente con o desafía esas creencias (v.gr. ausencia o existencia de competencia efectiva).
La expectativa de un debido proceso y transparencia pueden cumplirse mediante un diseño y validación adecuados de un sistema de IA a ser incorporado en los procedimientos ante el Poder Judicial.
4. Necesidad de supervisión objetiva de los sistemas de IA
Si bien quienes somos adeptos de la incorporación de la IA en los procesos de la administración pública, somos optimistas sobre el potencial de la automatización, enfatizamos la necesidad de un desarrollo responsable y una supervisión humana de los sistemas de IA en el gobierno, que debería incluir:
- Definir los objetivos y las restricciones de cada sistema.
- Pruebas rigurosas y validación de su desempeño antes de su implementación.
- Auditoría y monitoreo continuo del desempeño del sistema.
- Estándares para evaluaciones de impacto algorítmico y protecciones procedimentales relacionadas con la toma de decisiones automatizada.
- Doctrinas judiciales en evolución sobre la revisión del uso de IA por parte de las agencias.
- Retener el juicio humano para casos de alto riesgo o complejos.
- Que los sistemas sean consistentes con los mandatos legislativos y los objetivos de los entes públicos. La IA puede ser el “co-piloto” en la interpretación de mandato legislativo a la luz del estado de la ciencia y la evidencia en cada caso.
- Tesis judiciales que evolucionen con base en efecto sobre el uso de IA por parte de las entidades gubernamentales.
5. Preocupaciones sobre el sesgo algorítmico
Es de reconocerse el potencial de los sistemas de IA para perpetuar o exacerbar sesgos. Sin embargo, lo anterior no reconoce que la toma de decisiones humana también es propensa al sesgo (el sentido de la existencia de “competencia efectiva” se ha mostrado como maleable conforme a las partes que concurren al IFT).
Los sistemas de IA bien diseñados pueden reducir ciertos tipos de sesgo, homogenizando sus criterios, basados en los desarrollos de las ciencias y evidencia cuantitativa a nivel global sin apelar a juicios de valor del factor humano.
El que suscribe está más que convencido de que un algoritmo de LLM habría recomendado desde hace años eliminar la restricción de convergencia a la red fija del denominado agente económico preponderante. No se le ha liberado sólo y exclusivamente por juicios de valor del factor humano a cargo de tal decisión ¿cuánto le habrá costado al país excluir a un competidor del mercado de sistemas de audio y televisión restringido? Tal vez algunos puntos del PIB a la fecha desde el Acuerdo de Convergencia de 2006 a la fecha, casi 18 años de ello.
6. Equilibrar la eficiencia de la IA/automatización con el factor humano
Un tema clave es la necesidad de incorporar las ganancias de eficiencia de la automatización con la retención del juicio y la discreción humana en donde sea apropiado para la eventual modificación de las decisiones automatizadas en algunos casos, pero sujetas a principios incólumes de objetividad, evidencia y la inevitable presencia de casos con elementos fortuitos o singulares.
En un principio se incorporaría la IA/automatización para tareas rutinarias definidas, mientras se mantiene el factor humano involucrado en decisiones más complejas o consecuentes.
¿Cuántos de nosotros acudimos a realizar trámites en forma presencial y con exigencia de documentos que existen en otras entidades de gobierno, a pesar de ser trámites totalmente estandarizables?
Un elemento fundamental del quehacer regulatorio, ignorado por las entidades regulatorias y de competencia, es sujetarse a un estricto análisis costo-beneficio que vaya más allá de la prosa unilateral de cada autoridad.
Casos como la separación funcional del agente denominado “preponderante” y las medidas de regulación asimétrica impuestas o resolver si existen o no prácticas monopólicas relativas que tengan un efecto neto negativo en competencia, lo anterior debe sujetarse a una evidencia producto de un análisis estricto de costo-beneficio.
La IA se destaca en el manejo de grandes conjuntos de datos de diversas fuentes. Los algoritmos de aprendizaje automático pueden identificar rápidamente correlaciones, tendencias, estimaciones y proyecciones que podrían ser omitidos por los analistas humanos. Este análisis de datos exhaustivo puede proporcionar una base más sólida para las evaluaciones de costo-beneficio.
Los modelos predictivos impulsados por IA pueden tener en cuenta numerosas variables y sus complejas interacciones. Estos modelos pueden simular los impactos potenciales de las regulaciones. Al ejecutar miles de simulaciones, la IA puede proporcionar predicciones más precisas de los efectos a corto y largo plazo de las regulaciones propuestas.
La IA puede generar y evaluar una amplia gama de escenarios potenciales, considerando diferentes condiciones económicas y avances tecnológicos, esto permitiría a los reguladores comprender todo el espectro de posibles resultados de sus medidas que imponen a las empresas.
Los sistemas de IA pueden analizar continuamente flujos de datos para monitorear los efectos de las regulaciones implementadas. Esto permite una detección rápida de consecuencias no intencionadas o condiciones cambiantes que podrían requerir ajustes regulatorios. El monitoreo en tiempo real puede ayudar a crear marcos regulatorios más adaptativos y receptivos.
La IA puede ayudar a garantizar que los métodos analíticos se apliquen de manera consistente a cada diseño regulatorio (v.gr. los términos y condiciones de interconexión que el IFT resuelve cada año y que no necesariamente son consistentes entre ellos en el tiempo).
Al utilizar herramientas estandarizadas impulsadas por IA, los reguladores pueden eliminar las discrepancias en cómo se calculan y comparan los costos y beneficios, lo cual conduce a una toma de decisiones en forma transparente.
Estas aplicaciones de IA pueden mejorar significativamente la profundidad, precisión y eficiencia del análisis costo-beneficio regulatorio. Sin embargo, es importante tener en cuenta que la IA debe utilizarse como una herramienta para apoyar la toma de decisiones humanas, no para reemplazarla por completo, dado que los procesos regulatorios requieren de supervisión humana para su evaluación de desempeño, nada ni nadie es infalible.
En conclusión, la visión para esta propuesta de la Presidenta electa es en gran medida optimista, pero mesurada respecto de la automatización en la administración gubernamental.
El desarrollo de sistemas de IA/automatizados puede mejorar la precisión, eficiencia e incluso la equidad en las tareas gubernamentales rutinarias. Sin embargo, también se enfatiza la importancia de mantener una supervisión, juicio e interacción humana apropiada, particularmente para decisiones complejas y consecuentes.
Los principios existentes del derecho administrativo deberán de ser compatibles con una mayor automatización y reconocer como auxiliar en mejor proveer en la toma de decisiones a los algoritmos de IA.
Se espera cierta evolución en los marcos legales a medida que avanza la tecnología. En general, se propone un enfoque equilibrado que aproveche los beneficios de la IA/automatización mientras preserva elementos humanos clave de la gobernanza.
[1] Coglianese, C.; “Administrative Law in the Automated State”; 2021 by the American Academy of Arts & Sciences. Published under a Creative Commons Attribution-NonCommercial 4.0 International (CC BY-NC 4.0) license https://doi.org/10.1162/DAED_a_01862.
[2] E-Government Survey 2020: Digital Government in the Decade of Action for Sustainable Development (New York: United Nations, 2020). Disponible en: https://publicadministration.un.org/egovkb/en-us/Reports/UN-E-Government-Survey-2020.
[3] Ver https://ai.gov/es/casos/.
[4] El pasado 28 de junio la Suprema Corte de EE. UU. recortó drásticamente el poder de las agencias federales para interpretar las leyes que administran y dictaminó que los tribunales deben confiar en su propia interpretación de las leyes con conceptos y disposiciones ambiguas. Por 6 votos a 3, los jueces anularon su histórica decisión de 1984 en el caso Chevron contra el Consejo de Defensa de los Recursos Naturales, que dio origen a la doctrina conocida como “doctrina Chevron”. Según esa doctrina, si el Congreso no ha definido o delimitado directamente la disposición central en una disputa, se requería que un tribunal confirmara la interpretación del estatuto hecha por la agencia, lo cual frecuentemente ocurría. Algo semejante debe de ocurrir en México, los reguladores autónomos son frecuentemente discrecionales en la interpretación de lo que el legislador ha mandatado.