Por um reconhecimento facial antidiscriminatório
o imperativo de assegurar bancos de rostos diversos e combater vieses
DOI:
https://doi.org/10.54829/revistacnj.v7i1.458Palavras-chave:
Direito antidiscriminat´ório, Reconhecimento facial, Padrão ético, Viés racial, TecnologiaResumo
O presente artigo objetiva relacionar a noção de direitos antidiscriminatórios aos possíveis obstáculos técnicos para a sua asseguração concreta em sistemas de reconhecimento facial. Com base na igualdade de direito e da desigualdade material, observa-se que, na esfera do reconhecimento facial, muitos sistemas demonstram ter vieses raciais com menos precisão quando se trata de pessoas não brancas. Necessita-se, pois, que a legislação incorpore a esses os meandros técnicos dessas tecnologias para que se assegure um padrão mínimo ético. Nesse sentido, foi feita uma análise sobre as possibilidades de regulação da solução, em que se constatou laconismo nas propostas legislativas relacionadas ao tema em relação a vieses raciais e questões técnicas, o que pode implicar a falta de efetividade dos direitos fundamentais na esfera dos referidos sistemas.
Downloads
Referências
ALMEIDA, Silvio. Racismo estrutural. São Paulo: Jandaíra, 2019. 256 p.
ANTEPROJETO DE LEI DE PROTEÇÃO DE DADOS PARA SEGURANÇA PÚBLICA E PERSECUÇÃO PENAL. Comissão de Juristas instituída por Ato do Presidente da Câmara dos Deputados de 26 nov. 2019. Presidente: Min. Néfi Cordeiro. Disponível em: https://static.poder360.com.br/2020/11/DADOS-Anteprojeto-comissao-protecao-dados-seguranca-persecucao-FINAL.pdf. Acesso em: 9 jun. 2023.
BARROS, Isabela Maria Pereira Paes; SILVA, Isabela Inês Bernadino de Souza. Utilização do reconhecimento facial por empresas para identificação de suspeitos: segurança ou violação do Estado Democrático de Direito? Revista Transgressões, Natal, v. 8, n. 1, p. 57-76, 2020. Disponível em: https://periodicos.ufrn.br/transgressoes/article/view/19909. Acesso em: 9 jun. 2023.
BOTELLO, Nelson Arteaga. Regulación de la videovigilancia en Mexico: gestión de la ciudadanía y acceso a la ciudad. Espiral, Guadalajara, v. 23, n. 66, maio/ago. 2016. Disponível em: https://www.scielo.org.mx/scielo.php?script=sci_arttext&pid=S1665-05652016000200193. Acesso em: 10 mar. 2023.
BRASIL. Lei n. 12.965, de 23 de abril de 2014. Estabelece princípios, garantias, direitos e deveres para o uso da Internet no Brasil. Brasília: Presidência da República, 2014. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm. Acesso em: 9 jun. 2023.
BRASIL. Lei 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília: Presidência da República, 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 9 jun. 2023.
BRASIL. Ministério da Justiça e Segurança Pública. Portaria n. 793, de 24 de outubro de 2019. Brasília: Imprensa Nacional, [2019]. Disponível em: https://www.in.gov.br/en/web/dou/-/portaria-n-793-de-24-de-outubro-de-2019-223853575. Acesso em: 2 mar. 2023.
BUOLAMWINI, Joy; GEBRU, Timnit. Gender shades: intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, v. 81, p. 1-15, 2018. Disponível em: http://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf. Acesso em: 3 mar. 2023.
CÂMARA DOS DEPUTADOS. Ato do Presidente de 26 de nov. 2019. Institui Comissão de Juristas destinada a elaborar o anteprojeto de legislação específica para o tratamento de dados pessoais no âmbito da segurança pública, investigações penais e repressão de infrações penais, conforme o disposto no artigo 4º, inciso III, alíneas “a” e “d” da Lei n. 13.709, de 14 de agosto de 2018. Brasília: Câmara dos Deputados, 2019.
CANTO, Mariana. Made in surveillance: a regulação da importação e do uso de tecnologias de vigilância estrangeiras e a relativização dos direitos fundamentais e da soberania estatal. In: SIMPÓSIO INTERNACIONAL LAVITS, 6, 2019, Salvador. Anais [...]. Salvador: LAVITS, 2019. Disponível em: http://lavits.org/wp-content/uploads/2019/12/Canto-2019-LAVITS.pdf. Acesso em: 9 mar. 2020.
CHEN, Wenhao; WANG, Min. Regulating the use of facial recognition technology across borders: a comparative case analysis of the European Union, the United States, and China. Telecommunications Policy, vol. 47, n. 2, mar. 2022. Disponível em: https://doi.org/10.1016/j.telpol.2022.102482. Acesso em: 11 fev. 2023.
CONCEIÇÃO, V. S.; VIANA, C. C.; ROCHA, A, M. Reconhecimento Facial e a relativização do direito de imagem. Revista Ingi, Aracaju, v. 3, n. 3, p. 436-450, jul./set., 2019.
COMISSÃO EUROPEIA. Ethics by design and ethics of use approaches for artificial intelligence. Bruxelas: European Commission, 2021a. Disponível em: https://ec.europa.eu/info/funding-tenders/opportunities/docs/2021-2027/horizon/guidance/ethics-by-design-and-ethics-of-use-approaches-for-artificial-intelligence_he_en.pdf. Acesso em: 20 fev. 2023.
COMISSÃO EUROPEIA. Proposal for a regulation of the european parliament and of the council: laying down harmonised rules on artificial intelligence (artificial intelligence act) and amending certain union legislative acts. Bruxelas: European Commission, 2021b. Disponível em: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A52021PC0206. Acesso em: 9 jun. 2023.
CONSELHO NACIONAL DE JUSTIÇA. Departamento de Monitoramento e Fiscalização do Sistema Carcerário e do Sistema de Execução de Medidas Socioeducativas. Grupo de Trabalho Reconhecimento de Pessoas. Brasília: CNJ, 2022. Disponível em: https://www.cnj.jus.br/wp-content/uploads/2022/12/relatorio-final-gt-sobre-o-reconhecimento-de-pessoas-conselho-nacional-de-jusica.pdf. Acesso em: 9 jun. 2023.
FUSSEY, Pete; MURRAY, Daragh. Independent Report on the London Metropolitan Police Service’s Trial of Live Facial Recognition Technology. Essex: ESRC, Human Rights Center, University of Essex, 2019. Disponível em: https://repository.essex.ac.uk/24946/1/London-Met-Police-Trial-of-Facial-Recognition-Tech-Report-2.pdf. Acesso em: 10 mar. 2023.
GALINDO, Antonella. O direito antidiscriminatório entre a forma e a substância: igualdade material e proteção de grupos vulneráveis pelo reconhecimento da diferença. In: FERRAZ, Carolina Valença; LEITE, Glauber Salomão (orgs.). Direito à diversidade. São Paulo: Atlas, 2014, p. 43-60.
GROTHER, Patrick J.; QUINN, George W.; PHILLIPS, P. Johathon. Report on the Evaluation of 2D Still-Image Face Recognition Algorithms: NIST Interacy Report 7709. [s.l]: NIST, 2011. Disponível em: https://tsapps.nist.gov/publication/get_pdf.cfm?pub_id=905968. Acesso em: 12 mar. 2023.
HELMKE, Gretchen; LEVITSKY, Steven. Informal Institutions and Comparative Politics: a research agenda. Perspectives on Politics, v. 2, n. 4, dez. 2004, p. 725-740. Disponível em: https://wcfia.harvard.edu/files/wcfia/files/883_informal-institutions.pdf. Acesso em: 20 fev. 2023.
INSTITUTO IGARAPÉ. Reconhecimento facial no Brasil, 2019. Rio de Janeiro: Instituto Igarapé, 2019. Disponível em https://igarape.org.br/infografico-reconhecimento-facialno-brasil. Acesso em: 25 fev. 2023.
INTERNATIONAL TELECOMMUNICATION UNION (ITU). Documentos da Cúpula Mundial sobre a Sociedade da Informação: Genebra 2003 e Túnis 2005. Tradução Marcelo Amorim Guimarães. São Paulo: Comitê Gestor da Internet no Brasil, 2014. E-book.
LEMOS, A.; FERNANDES; E.; MEDEIROS, J; GUEDES, P.; SILVA, P. Comentários ao Anteprojeto de Lei de Proteção de Dados para a Segurança Pública: Tecnologia de Reconhecimento Facial. Rio de Janeiro: ITS Rio, 2021. Disponível em: https://itsrio.org/wp-content/uploads/2021/04/UK-Comentarios_LGPDPenal.pdf. Acesso em: 4 mar. 2023.
LUHMANN, Niklas. O Direito da Sociedade. São Paulo: Martins Fontes, 2016.
MADIEGA, T.; MILDEBRATH, H. Regulating facial recognition in the EU. In-Depth Analysis. Bruxelas: Serviço de Estudos do Parlamento Europeu, 2021.
MORALES, L. X. Tutela antidiscriminatória na Lei Geral de Proteção de Dados: problemáticas e alternativas. Internet & Sociedade, São Paulo, v. 2, n. 2, p. 67-89, dez. 2021. Disponível em: https://revista.internetlab.org.br/wp-content/uploads/2022/03/Tutela-antidiscriminatoria-na-Lei-Geral-de-Protecao-de-Dados-problematicas-e-alternativas.pdf. Acesso em: 9 jun. 2023.
NEVES, Marcelo. Entre Têmis e Leviatã: uma relação difícil. São Paulo: Martins Fontes, 2006.
NEVES, Marcelo. Direitos Humanos: inclusão ou reconhecimento? In: FERRAZ, Carolina Valença; LEITE, Glauber Salomão (orgs.). Direito à diversidade. São Paulo: Atlas, 2014, p. 3-17.
NUNES, Pablo. Novas ferramentas, velhas práticas: reconhecimento facial e policiamento no Brasil. In: RAMOS, Silvia (coord.). Retratos da violência: cinco meses de monitoramento, análises e descobertas. Rio de Janeiro: Rede de Observatórios de Segurança, 2019. Disponível em: https://cesecseguranca.com.br/wp-content/uploads/2019/11/Rede-de-Observatorios_primeiro-relatorio_20_11_19.pdf. Acesso em: 9 jun. 2023.
POSSA, Alisson. O reconhecimento facial como instrumento de reforço do Estado de Coisas Inconstitucionais no Brasil. IDP Law Review, Brasília, v. 1, n. 2, p. 131-146. abr. 2022. Disponível em: https://www.portaldeperiodicos.idp.edu.br/lawreview/article/view/5943/2553. Acesso em: 9 jun. 2023.
ROSA, Alex da; PESSOA, Sara de Araújo; LIMA, Fernanda da Silva. Neutralidade tecnológica: reconhecimento facial e racismo. Vírus, São Paulo, v. 21, n. 2, dez. 2020. Disponível em: http:// www.nomads.usp.br/virus/virus21/?sec=4&item=9&lang=pt. Acesso em: 2 mar. 2023.
RUBACK, Lívia; ÁVILA, Sandra; CANTERO, Lúcia. Vieses no aprendizado de máquina e suas implicações sociais: um estudo de caso no reconhecimento facial. In: Workshop sobre as Implicações da Computação na Sociedade, 2, 2021. Anais [...]. Porto Alegre, XLI Congresso da Sociedade Brasileira de Computação, 2021, p. 90-101. Disponível em: https://doi.org/10.5753/wics.2021.15967. Acesso em: 9 jun. 2023.
SILVA, Lorena Abbas da; FRANQUEIRA, Bruna Diniz.; HARTMANN, Ivar. A. O que os olhos não veem, as câmeras monitoram: reconhecimento facial para segurança pública e regulação na América Latina. Revista Digital de Direito Administrativo, São Paulo, v. 8, n. 1, p. 171-204, 2021. Disponível em: 10.11606/issn.2319-0558.v8i1p171-204. Acesso em: 2 mar. 2023.
SILVA, R. L.; SILVA, F. S. R. da. Reconhecimento facial e segurança pública: os perigos do uso da tecnologia no sistema penal seletivo brasileiro. In: CONGRESSO INTERNACIONAL DE DIREITO E CONTEMPORANEIDADE: MÍDIAS E DIREITOS DA SOCIEDADE EM REDE, 5, 2019, Santa Maria. Anais [...]. Santa Maria: UFSM, 2019. Disponível em: https://www.ufsm.br/cursos/pos-graduacao/santa-maria/ppgd/congresso-de-direito-5a-edicao. Acesso em: 1º mar. 2023.
SILVA, Tarcízio. Linha do tempo do racismo algorítmico. In: SILVA, Tarcízio. Blog do Tarcizio Silva: pesquisa métodos digitais, ciência, tecnologia e sociedade, 2022. Disponível em: https://tarciziosilva.com.br/blog/posts/racismo-algoritmico-linha-do-tempo. Acesso em: 18 fev. 2023.
SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc, 2022.
SOUZA, M. Dos espaços de controle de territórios dissidentes. Rio de Janeiro: Consequência Editora, 2015.
SURESH, Harini; GUTTAG John Guttag. A Framework for Understanding Sources of Harm throughout the Machine Learning Life Cycle. In: EAAMO: Equity and Access in Algotithms, Mechanisms, and Optimization, 23, 2021, New Iorque. Anais [...]. EAAMO, Nova Iorque, p. 1-9, out. 2021. Disponível em: https://doi.org/10.1145/3465416.3483305. Acesso em: 1º mar. 2023.
SUPREMO TRIBUNAL FEDERAL. ADPF 347 MC/DF. Medida cautelar na arguição de descumprimento de preceito fundamental 347. Relator: Min. Marco Aurélio, 9 de setembro de 2015. Disponível em: https://redir.stf.jus.br/paginadorpub/paginador.jsp?docTP=TP&docID=10300665 . Acesso em: 1º mar. 2023.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2023 Flavianne Fernanda Bitencourt Nóbrega, João Vitor Sales Zaidan
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
