Ética e transparência

A inteligência artificial é um dos importantes instrumentos que o Judiciário brasileiro investe para potencializar seu funcionamento e gestão e aprimorar o atendimento à sociedade. E, para contribuir com agilidade e coerência no processo de tomada de decisão nos órgãos judiciais, seu uso deve observar a compatibilidade com os direitos fundamentais.

Para garantir o uso da tecnologia com ética, transparência e governança, o Conselho Nacional de Justiça (CNJ) publicou, em agosto do ano passado, a Resolução n. 332/2020, que trata sobre “a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário”. A norma estabelece diretrizes para o desenvolvimento e uso da inteligência artificial, para contribuir com agilidade e coerência no processo de tomada de decisão nos órgãos judiciais.

A Resolução aborda os seguintes pontos: aspectos gerais; respeito aos direitos fundamentais; não discriminação; publicidade e transparência; governança e qualidade; segurança; controle do usuário; pesquisa, desenvolvimento e implantação de serviços de inteligência artificial; prestação de contas e responsabilização.

As decisões judiciais apoiadas por inteligência artificial devem preservar a igualdade, a não-discriminação, a pluralidade, a solidariedade e o julgamento justo, eliminando ou minimizando a opressão, a marginalização do ser humano e os erros de julgamento decorrentes de preconceitos.

O CNJ ainda estabelece que o conhecimento associado à inteligência artificial deve estar à disposição da Justiça para promover e aprofundar a compreensão entre a lei e o agir humano e entre a liberdade e as instituições judiciais.

Segundo a resolução, os dados utilizados no processo de aprendizado de máquina devem ser provenientes de fontes seguras, preferencialmente governamentais, passíveis de serem rastreados e auditados. E, em seu processo de tratamento, os dados devem ser protegidos de forma eficaz contra riscos de destruição, modificação e transmissões não-autorizadas.

Na relação entre essa inovação e os direitos fundamentais, o CNJ define que o uso de modelos de inteligência artificial deve buscar garantir segurança jurídica. E que, quando o desenvolvimento exigir, as amostras devem ser representativas e observar as cautelas necessárias quanto aos dados pessoais sensíveis e ao segredo de Justiça.

Os critérios dos modelos devem ser homologados para identificar se preconceitos ou generalizações influenciaram seu desenvolvimento. Os sistemas tecnológicos que utilizem esses modelos como ferramenta auxiliar para a elaboração de decisão judicial deverão conter a explicação dos passos que conduziram ao resultado.

Os órgãos do Judiciário envolvidos em projetos dessa natureza devem informar o CNJ sobre a pesquisa, o desenvolvimento, a implantação e uso de IA, bem como os objetivos e resultados pretendidos. Essa divulgação é realizada no Painel de Projetos com Inteligência Artificial no Poder Judiciário.