Brasil | Justicia de São Paulo prohíbe la compra de 20 mil cámaras con reconocimiento facial
El Tribunal de Justicia de São Paulo suspendió la licitación del ayuntamiento de São Paulo para la contratación de 20 mil cámaras con sistema de reconocimiento facial para el programa Smart Sampa. La decisión responde a una solicitud del Bloque Feminista del Concejo Municipal de São Paulo.
El servicio se utilizaría para “videovigilancia a través de cámaras con analítica, para visualización a través de una plataforma web, con sistemas de gestión operativa que permitan la integración con otros sistemas, y con suministro de toda la estructura”.
En su decisión, el juez Luis Manuel Fonseca Pires afirmó que investigadores de diversas áreas y prestigiosas instituciones “señalan riesgos concretos de reproducción del racismo estructural en el uso del sistema de vigilancia por reconocimiento facial, porque esta tecnología reproduce patrones de discriminación incorporados en la cultura y en la dinámica institucional de las sociedades, sin permitir una revisión de estos graves comportamientos”.
Relacionado: Metro de São Paulo tiene prohibido utilizar sistema de reconocimiento facial
Citó una investigación de la Red de Observatorios de Seguridad, que indica que “el 90 por ciento de los arrestos realizados en Brasil mediante esta tecnología (datos recopilados en 2019) fueron de personas negras, y entre ellos hubo errores de identificación que llevaron a la detención de inocentes“.
Además, el sistema de reconocimiento facial amenaza el tratamiento de datos, ya que la captación, el procesamiento y el almacenamiento de información sin el consentimiento de los ciudadanos pueden violar la Ley General de Protección de Datos Personales (LGPD).
“Ante este contexto, en ausencia de una regulación legal, especialmente previa a la implementación del proyecto deseado, vislumbro la verosimilitud del derecho solicitado y una grave amenaza a los derechos fundamentales mencionados anteriormente, y ordeno la suspensión provisional de la subasta indicada en la solicitud de la petición inicial“, decidió el juez.
Reconocimiento facial
Esta no es la primera vez que el proyecto Smart Sampa enfrenta obstáculos. A finales del año pasado, el Tribunal de Cuentas del Municipio suspendió el edicto para la contratación de las cámaras debido a preocupaciones sobre el uso de algoritmos de Inteligencia Artificial. Sin embargo, la licitación fue liberada y retomada en mayo.
La falta de regulación sobre Inteligencia Artificial perjudica el desarrollo de proyectos en todo el país. La propuesta más reciente, presentada por el presidente del Senado Federal, Rodrigo Pacheco, determina que solo se permitiría el uso de sistemas de identificación cuando exista una ley federal específica y una autorización judicial para localizar a sospechosos de delitos con una pena superior a dos años, víctimas de delitos o personas desaparecidas, o en caso de delitos flagrantes.
Al mismo tiempo, la medida prevé un entorno de sandbox regulatorio para probar tecnologías que mejoren la eficiencia, reduzcan costos, disminuyan riesgos y otros beneficios.