Justiça de São Paulo veta compra de 20 mil câmeras com reconhecimento facial
O Tribunal de Justiça de São Paulo suspendeu a licitação da prefeitura de São Paulo para a contratação de 20 mil câmeras com sistema reconhecimento facial para o programa Smart Sampa. A decisão atende a um pedido da Bancada Feminista da Câmara Municipal de São Paulo.
O serviço seria usado para “videomonitoramento através de câmaras com analíticos, para visualização via plataforma web, contendo sistemas gerenciais de operação, que possibilite a integração com outros sistemas, com fornecimento de toda a estrutura”.
Em sua decisão, o juiz Luis Manuel Fonseca Pires, afirmou que pesquisadores de diversas áreas e instituições renomadas “apontam para riscos concretos de reprodução do racismo estrutural no usodo sistema de monitoramento por reconhecimento facial porque essa tecnologia reproduz padrões de discriminação incorporados na cultura e na dinâmica institucionaldas sociedades sem permitir qualquer revisão desses graves comportamentos”.
Relacionado: Metrô de São Paulo é proibido de usar sistema de reconhecimento facial
Ele citou uma pesquisa da Rede de Observatórios da Segurança, a qual indica que “90% das prisões feitas no Brasil por meio dessa tecnologia (dados coletados em 2019) foram de pessoas negras, e entre elas houve erros de identificação que levaram inocentes à prisão”.
Além disso, o sistema de reconhecimento facial ameaça o tratamento de dados, porque a captação, o processamento e o armazenamento de informações sem consulta dos cidadãos podem violar a Lei Geral de Proteção de Dados Pessoais (LGPD).
“Diante desse contexto, na ausência de uma regulação legal, em especial prévia à implementação do projeto almejado, diviso a verossimilhança do direito postulado e grave ameaça a direitos fundamentais acima mencionados e determino a suspensão provisória do pregão indicado no pedido da petição inicial”, decidiu o juiz.
Reconhecimento facial
Esta não é a primeira vez que o projeto Smart Sampa enfrenta obstáculos. No final do ano passado, o Tribunal de Contas do Município suspendeu o edital para a contratação das câmeras por preocupação com o uso de algoritmos de Inteligência Artificial. Entretanto, a licitação havia sido liberada e retomada em maio.
A falta de uma regulação sobre Inteligência Artificial prejudica o andamento de projetos pelo país. A proposta mais recente, apresentada pelo presidente do Senado Federal, Rodrigo Pacheco, determina que só seria permitido o uso de sistemas de identificação quando houvesse lei federal específica e autorização judicial para localizar suspeitos de crimes com pena superior a dois anos; vítimas de crimes ou pessoas desaparecidas; ou em caso de crime em flagrante.
Ao mesmo tempo, a medida prevê o ambiente de sandbox regulatório para o teste de tecnologias que melhorem a eficiência, reduzam custos, diminuam riscos, entre outros benefícios.