CGI.br defiende transparencia y modelo basado en riesgo en regulación de la IA en Brasil
El Comité Gestor de Internet en Brasil (CGI.br) divulgó una nota técnica con recomendaciones sobre el Proyecto de Ley (PL 2.338/2023), que establece el marco de la Inteligencia Artificial en el país. La propuesta, ya aprobada por el Senado Federal, sigue en análisis en la Cámara de Diputados.
El texto del proyecto crea reglas para el desarrollo, implementación y uso de sistemas de IA en Brasil, incluyendo la clasificación de riesgos, obligaciones para las empresas y mecanismos de protección de derechos fundamentales. El proyecto establece, por ejemplo, distintos niveles de riesgo para las aplicaciones de IA y prevé exigencias proporcionales a la gravedad de los posibles impactos.
En la nota técnica, el CGI.br defiende la permanencia de este modelo basado en riesgo, considerado esencial para equilibrar la innovación tecnológica y la protección social. Según el documento, es importante “mantener y fortalecer las clasificaciones de riesgos y deberes presentes en el proyecto”, además de garantizar mecanismos de transparencia en los sistemas.
El comité también resalta la necesidad de herramientas que permitan identificar y reducir posibles sesgos y discriminaciones algorítmicas. Para el organismo multisectorial, estas medidas son fundamentales para asegurar que el avance de la IA ocurra con respeto a los derechos fundamentales.
Otro punto destacado es la gobernanza del sistema regulatorio. El CGI.br manifiesta su apoyo a la creación de estructuras institucionales para coordinar la política de IA y afirma tener “disponibilidad y competencia técnica para integrar el ecosistema regulatorio”, incluido el Comité de Regulación e Innovación en Inteligencia Artificial (CRIA), previsto en las discusiones legislativas.
La nota también aborda riesgos específicos asociados a la tecnología. El documento recuerda que el proyecto de ley prevé restricciones al desarrollo y uso de sistemas de IA en situaciones consideradas abusivas o ilegales, como aplicaciones que puedan facilitar la producción o difusión de material de explotación sexual infantil.
El comité también llama la atención sobre la necesidad de reglas claras sobre contenidos sintéticos generados por IA, definidos en el proyecto como “informaciones, tales como imágenes, videos, audio y texto, que han sido significativamente modificadas o generadas por sistemas de IA”. Este punto se vuelve especialmente relevante en el contexto del año electoral.
A pesar de ello, una fuente del ámbito político consultada por DPL News afirmó que el marco legal de la IA no será votado este año. No obstante, para el CGI.br, la regulación de la Inteligencia Artificial es decisiva para el futuro de la innovación en el país, siendo imprescindible combinar el estímulo al desarrollo tecnológico con salvaguardas institucionales y la protección de los ciudadanos.