A aplicação de padrões antidiscriminatórios no uso de ferramentas tecnológicas, como as de reconhecimento facial, passa não apenas pela construção social dos sistemas e pela definição de seus logaritmos, mas também por uma regulação legal que desestimule o uso arbitrário da tecnologia. Para o direito, essas inovações trazem desafios para a efetividade de normas e princípios que podem evitar a incidência de condutas contrárias ao interesse coletivo e salvaguardar a igualdade de direitos, sem discriminação de raça, cor ou etnia.
O tema é tratado no artigo “Por um reconhecimento facial antidiscriminatório: o imperativo de assegurar bancos de rostos diversos e combater vieses raciais”, publicado no volume 7 da Revista Eletrônica do Conselho Nacional de Justiça (e-Revista CNJ). De acordo com o trabalho, as distorções desses sistemas são maximizadas quando se trata de pessoas não brancas.
A doutora em Direito pela Universidade Federal de Pernambuco (UFPE) Flavianne Fernanda Bitencourt Nóbrega e o pesquisador na área de Direitos Humanos da UFPE João Vitor Sales Zaidan apontam que esses vieses são resultado do uso de bancos de dados internacionais, que não contemplam uma diversidade social compatível com a população brasileira. Some-se ainda a falta de legislação adequada no país que regule a criação dos softwares.
Os especialistas destacam que há várias aplicações para a tecnologia de reconhecimento facial, mas seu uso ainda não foi massificado na esfera penal no Brasil, conforme dados do CNJ. Dessa forma, o texto defende que o Brasil ainda está em um estágio em que ainda é possível discutir e formular regulamentos para essas tecnologias, a fim de evitar que a sua utilização signifique o descumprimento de princípios constitucionais e de direitos fundamentais.
Para que as normas jurídicas tenham a eficácia desejada, é imperativo que se entenda em detalhes o funcionamento das novas tecnologias para que os direitos fundamentais já positivados também sejam garantidos de fato e não sejam violados em etapas de funcionamento. No entanto, percebe-se que as propostas legislativas não têm como foco exatamente a questão do reconhecimento facial. Isso mostra que o tema “pode não estar mobilizando tanto o debate público quanto outros temas correlatos, a exemplo da inteligência artificial e as lacunas da Lei Geral de Proteção de Dados (LGPD)”.
Para os autores, essa diferença na intensidade das discussões pode abrir margem para que a legislação se mantenha “lacônica e não incorpore regulações que são importantes para assegurar o combate a vieses raciais nessas inovações”. Eles afirmam ainda que grande parte dos problemas relacionados à discriminação em softwares são gerados por se basearem em bancos de dados estrangeiros, em que os algoritmos acabam por gerar vieses.
Esse fato comprova que o direito precisa incorporar a esses sistemas “os meandros técnicos do reconhecimento facial, de modo a criar normas que fixem padrões mínimos éticos, por meio de detalhes do processo de criação desses sistemas, com o objetivo de assegurar direitos antidiscriminatórios”. O artigo ressalta que o desafio de regulamentos e de políticas públicas é assegurar a igualdade jurídica àqueles entendidos como minorias, os que não têm hegemonia política e são ainda mais dependentes do ordenamento jurídico para verem os seus direitos se materializarem na realidade.
Sem um nível de especificidade estabelecido pela legislação e as demais normas que regulam as máquinas de reconhecimento facial, não há como desenhar um sistema que aplique eficazmente o princípio da igualdade. “Aceitar algoritmos com vieses raciais, por exemplo, seria reafirmar que existem pessoas sub-incluídas na sociedade, no caso, na esfera do sistema e do banco de rostos utilizado, o que não é compatível com um sistema democrático que preza pela igualdade jurídica de seus cidadãos”, defendem os autores.
Com esse propósito, cabe também à sociedade civil a pressão sobre os legisladores para que esses elementos possam ser tema de normas futuras. Somente assim, poderão ser vistas mudanças no ordenamento que impactem a sociedade e “não permitam a reprodução de padrões de exclusão e discriminação com populações que já enfrentam tais problemáticas na sociedade brasileira e no mundo”.
Leia aqui a íntegra do artigo “Por um reconhecimento facial antidiscriminatório”
Revista do CNJ
A revista eletrônica do CNJ é publicada semestralmente e foi criada, em 2015, para disseminar trabalhos acadêmicos que sigam a linha editorial que aborda o Sistema de Justiça e a atuação do Poder Judiciário no Brasil. A seleção dos textos é de competência do Conselho Editorial da publicação, a partir da análise técnica de pareceristas anônimos, com doutorado na área e indicados pelo Conselho Editorial da Revista do CNJ.
Além da seção de artigos, a Revista também publica uma seção de entrevistas e uma de jurisprudência, com os últimos julgados do CNJ. Na primeira edição do volume 7, publicada no primeiro semestre de 2023, a e-Revista trouxe a entrevista com a professora Ana Frazão sobre proteção de dados e inteligência artificial.
Na Seção de Jurisprudência, foram publicados julgados sobre concessão de regime especial de trabalho para oficial de justiça com filho com transtorno do espectro autista; ato normativo que dispõe sobre a entrega de crianças para adoção nos tribunais de Justiça; e ato normativo que estabelece critérios para reserva de vagas para mulheres em condições de vulnerabilidade nos contratos de prestação continuada e de terceirização, entre outros.
Texto: Lenir Camimura
Edição: Jonathas Sêixas
Agência CNJ de Notícias
