Mariana Seleme e Marina Haline
No último dia 25 entrou em vigor a Resolução nº 332 do Conselho Nacional de Justiça (CNJ), a qual dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial (IA) no Poder Judiciário e dá outras providências.
A referida resolução é constituída por 31 artigos, distribuídos em 10 capítulos e trata-se da primeira norma nacional específica sobre a matéria.
De acordo com o documento, a Inteligência Artificial no âmbito do Poder Judiciário tem como principais objetivos: a promoção do bem-estar dos jurisdicionados; a realização da prestação equitativa da jurisdição; a contribuição com a agilidade e coerência do processo de tomada de decisão; a garantia da segurança jurídica; e a igualdade de tratamento aos casos absolutamente iguais.
Além de trazer definições de alguns termos técnicos computacionais, a nova resolução do CNJ prevê que, tanto no desenvolvimento, quanto na implantação da IA, os tribunais deverão observar sua compatibilidade com os direitos fundamentais, com as regras de governança de dados aplicáveis aos seus próprios softwares, com as demais resoluções e recomendações do Conselho, bem como, com as regras da Lei Geral de Proteção de Dados.
Em relação à utilização da IA nos processos de tomada de decisão do magistrado, a normativa exige que os tribunais também atendam a critérios éticos de transparência, previsibilidade, possibilidade de auditoria, garantia de imparcialidade e justiça substancial. De modo que, as decisões apoiadas pela nova tecnologia deverão preservar a igualdade, a não discriminação, a pluralidade, a solidariedade e o julgamento justo e, ainda, buscar a eliminação ou minimização dos erros de julgamento decorrentes de preconceitos.
A Resolução nº 332 do CNJ deixa claro que qualquer proposta decisória apresentada pelo modelo de IA e os dados utilizados para sua elaboração, devem ser passíveis de revisão pelos usuários internos (membro, servidor ou colaborador do Poder Judiciário). Portanto, a tecnologia deve se atentar ao incremento dos sistemas processuais, não à restrição da autonomia humana.
Ademais, a nova normativa do CNJ traz um capítulo sobre a pesquisa, o desenvolvimento e a implantação das soluções computacionais de IA, onde se determina aos tribunais a busca da diversidade na escolha dos profissionais que participarão dos processos de criação, negociação e capacitação do sistema (diversidade de gênero, raça, cor, etnia, orientação sexual, geração, pessoas com deficiência, etc). A exigência é de uma participação representativa e interdisciplinar.
Destaca-se que a Resolução nº 332 do CNJ também impõe algumas restrições e limitações em relação ao uso da IA pelo Poder Judiciário, como a utilização de modelos que operem técnicas de reconhecimento facial, para a qual será exigida prévia autorização do CNJ para sua implementação. Neste caso, não basta que o tribunal somente comunique a sua pesquisa/implantação ao órgão, como ocorre nas demais hipóteses de projeto de IA (arts. 10 e 22).
Ainda, no art. 23 da norma consta que “a utilização de modelos de Inteligência Artificial em matéria penal não deve ser estimulada, sobretudo com relação à sugestão de modelos de decisões preditivas”. Tal disposição não se aplica quando se tratar do uso de automações computacionais destinadas ao cálculo de penas, prescrição, verificação de reincidência, mapeamentos, classificações e triagem dos autos. Entretanto, quando o modelo de IA for destinado à verificação de reincidência penal, não deve “indicar conclusão mais prejudicial ao réu, do que aquela a que o magistrado chegaria sem a sua utilização” (§2º).
Nas disposições finais, o art. 30 da resolução dispõe que as regras nela previstas aplicam-se inclusive aos projetos e modelos de IA que já estão em desenvolvimento, ou que já foram implantados nos tribunais, respeitados os atos aperfeiçoados.
É o caso do projeto Sócrates do Superior Tribunal de Justiça (STJ), e dos projetos PIAA (Projeto de Inteligência Artificial e Automação) e Larry (desenvolvidos pelo Tribunal de Justiça do Estado do Paraná), e dos demais 70 projetos existentes em 50% dos tribunais do país[1].
Mariana Seleme é Advogada e sócia do escritório Arns de Oliveira & Andreazza Marina Haline é Advogada do escritório Arns de Oliveira & Andreazza
[1] https://www.jota.info/coberturas-especiais/inova-e-acao/judiciario-brasileiro-tem-ao-menos-72-projetos-de-inteligencia-artificial-nos-tribunais-09072020. Acesso em: 27 ago 2020.
https://oglobo.globo.com/brasil/metade-dos-tribunais-brasileiros-ja-recorre-inteligencia-artificial-para-agilizar-processos-aponta-pesquisa-1-24502062. Acesso em: 27 ago 2020.