ANPD será responsable de la gestión de Inteligencia Artificial en Brasil
El informe presentado en el Senado para el establecimiento de la Ley de IA en Brasil designa a la Autoridad Nacional de Protección de Datos para coordinar el Sistema Nacional de Regulación y Gobernanza de la Inteligencia Artificial (SIA).
Además de instituir la ANPD (Autoridad Nacional de Protección de Datos) para la gestión del órgano que fiscalizará el uso de la Inteligencia Artificial (IA) en Brasil, el informe sustitutivo al PL 2338/2020, presentado este martes 18 de junio por el senador Eduardo Gomes, incorpora nuevas reglas y otros nueve proyectos de ley relacionados con el tema.
El texto en consideración por la Comisión sobre Inteligencia Artificial (CTIA) del Senado aún será discutido en otras cinco audiencias públicas, lo que aleja la posibilidad de una votación para el establecimiento de una regulación este mes, como había prometido el relator.
Las próximas deliberaciones se centrarán en la mitigación de riesgos y aspectos de gobernanza, autorregulación, buenas prácticas, fiscalización e innovación sostenible.
Como se informó anteriormente, el SIA (Sistema de Regulación y Gobernanza de la Inteligencia Artificial) contará también con la colaboración de otras agencias reguladoras y organismos sectoriales para clasificar y desclasificar sistemas de IA en sus respectivas esferas de competencia legal.
En lo que respecta a la gobernanza de la IA Generativa, específicamente, estas entidades definirán en qué hipótesis las obligaciones deberán ser aplicadas o simplificadas, de acuerdo con el riesgo involucrado y el nivel de desarrollo tecnológico.
Destacado: Revolución de la Inteligencia Artificial: importancia de las habilidades blandas en la educación
Los nuevos términos incluidos abarcan temas como protección de datos, fomento del uso de IA en la educación de personas con discapacidad, ampliación de políticas de trabajo y empleo, innovación en pequeñas y medianas empresas y la prohibición expresa de armas letales autónomas, que pueden seleccionar y atacar objetivos sin intervención humana directa.
A pesar de este último punto, no se incorporó el contenido de la enmienda que proponía que los sistemas de IA siempre estuvieran bajo supervisión humana. El texto explica que esto se debe a que existen muchos sistemas de IA diseñados para operar sin ayuda humana y que no representan grandes riesgos.
Entre estos sistemas se incluyen aquellos que ofrecen capacitación especializada a usuarios no expertos, control de cámaras fotográficas digitales y sistemas que toman decisiones más rápido que el tiempo de reacción humana, como el control de equipos de comunicación o la protección eléctrica.
Principales premisas de la regulación
El texto adopta reglas del Código Civil y del Código de Defensa del Consumidor, con un enfoque en la protección de los derechos humanos y en pro de la innovación, sin restringir la tecnología y su desarrollo sostenible. Define principios para el uso y detalla las responsabilidades de los agentes involucrados en la cadena de valor de la IA.
Entre las principales premisas están:
La creación del Sistema Nacional de Regulación y Gobernanza de la Inteligencia Artificial (SIA);
Designación de la Autoridad Nacional de Protección de Datos (ANPD) como autoridad competente para coordinar el SIA, que también tendrá como misión reducir la asimetría regulatoria frente a los diversos usos intensivos de sistemas de IA en sectores no regulados;
Análisis de impacto algorítmico (AIA);
Regulación basada en riesgos: con el fortalecimiento de la competencia de las autoridades sectoriales para clasificar y desclasificar sistemas de IA en sus respectivas esferas de competencia legal;
Regulación asimétrica: con el refuerzo de la lógica de que el peso regulatorio debe ser proporcional al grado de riesgo del sistema de IA, para garantizar un enfoque conciliador entre la protección de derechos y el incentivo a la innovación;
Sistemas de alto riesgo – aunque el texto destaca que “casi todas las hipótesis ejemplificativas de alto riesgo fueron revisadas con el objetivo de no encuadrar sectores como un todo en tal categoría regulatoria más rigurosa y, con ello, privilegiar un enfoque pro innovación”.
El senador Eduardo Gomes explicó que el sustitutivo siguió las tendencias regulatorias adoptadas en el Reino Unido y en los Estados Unidos que, según él, promueven la cooperación entre autoridades sectoriales con equilibrio para promover la libre iniciativa y la libre competencia.
Como relator, él aceptó total o parcialmente 27 de las 55 enmiendas presentadas hasta la lectura del informe y aclaró la directriz adoptada en relación con la responsabilidad civil.