Reconhecimento facial endossa preconceito algorítmico, afirmam especialistas
São Paulo.- No Brasil, 90% das pessoas presas por meio de sistemas de reconhecimento facial são negras. Isso se dá por conta de dados enviesados e softwares com uma margem de falha de 10%, um número inconcebível para muitos desenvolvedores. Esses dados foram divulgados nesta quinta-feira, 29, na FebrabanTech 2023, por especialistas do direito digital e da área de tecnologia do projeto Educafro, voltado para inserção e permanência de pessoas pretas em diferentes espaços, sobretudo universidades.
Um exemplo dessa problemática, apresentado no workshop “racismo algorítmico: do conceito à prática na sociedade cotidiana”, é o fatídico caso da pesquisadora do MIT (Massachusetts Institute of Technology), Joy Buolamwini, que deu início a um projeto chamado Aspire Mirror, uma ferramenta desenvolvida para projetar máscaras digitais no reflexo de quem a utilizasse.
Ao usar um software genérico de reconhecimento facial, a cientista, que é negra, descobriu que seu rosto não era detectado. Após descartar os problemas tecnológicos, fez um teste colocando uma máscara branca sobre seu rosto e foi prontamente reconhecida. A experiência é citada no documentário “Coded Bias”.
“Toda essa tecnologia [de biometria e reconhecimento facial] promete segurança e praticidade. Mas para quem?”, questionou Thamires Orefice, consultora jurídica da Educafro, especializada em direito digital. “Não existem dados que comprovem essa segurança e mal temos tempo de aplicar e acompanhar a velocidade de tais tecnologias, por isso é necessário uma melhor regulamentação e revisão”, completa.
Portanto, a especialista esclarece que o posicionamento da Educafro é mesmo o banimento desse sistema ou no mínimo uma revisão atualizada dos dados para aplicá-lo.
O problema do viés dos algoritmos
Como é sabido, a tecnologia de reconhecimento facial é baseada em softwares e algoritmos que fazem o mapeamento de padrões nos rostos dos indivíduos a partir do uso de um banco de dados. E, como esclarece Áubio Ferreira, engenheiro da computação e pesquisador da Educafro Tech, as máquinas não são produtos cognitivos, elas são abastecidas com uma base de quem as treinam e desenvolvem esses algoritmos: em suma, um grupo homogêneo, formado por homens brancos e cisgêneros.
“A nível de TI o que precisa ser feito é uma refinação dos dados. 10% de erro em reconhecimento facial não é aceitável; 1% em área de pesquisa, já é um número gritante. Quando as premissas matemáticas são equivocadas isso resulta em situações desastrosas”, diz Ferreira.
Para evidenciar essa problemática, os especialistas mostraram dados da organização PretaLab, que apontam que no Brasil, 65% das mulheres estão fora da área de TI e esse número piora se forem mães; em 67,4% dos casos, as pessoas que moram em bairros periféricos e vulneráveis representam um máximo de 10% das pessoas nas equipes de tecnologia das empresas; 95,9% delas não integra nenhuma pessoa indígena e a falta de pessoas negras vai de 38 a 68% nessa área.
Empresas diversas geram soluções mais assertivas e lucrativas
“Ao considerar esses aspectos, entendemos que a tecnologia é um espaço de poder, e por isso devemos ocupá-lo”, explica Thamires Orefice.
A dupla também afirmou, segundo estudo da consultoria McKinsey, intitulado “A diversidade como alavanca de desempenho” que uma empresa diversa pode obter benefícios reais. A análise feita com mais de mil empresas em 12 países, mostrou que a diversidade de gênero em cargos executivos pode aumentar em 21% os lucros em comparação com aquelas que não trabalham essa questão.
Já nos casos de maior diversidade étnica e cultura, esse número se eleva para 31%.