Essa realidade aumenta a importância quanto ao debate regulatório das soluções de IA aplicadas ao Poder Judiciário.
No cenário internacional é perceptível a existência de sistemas de Inteligência Artificial (IA) com aplicações variadas associadas direta ou indiretamente aos sistemas de justiça: identificação de probabilidades êxito ou fracasso de processo perante um Tribunal; estimativas da quantia de compensação a ser recebida; suporte a decisões judiciais; avaliação das chances de reincidência de pessoa humana; mecanismos avançados de pesquisa jurisprudencial; descoberta de padrões em decisões judiciais tomadas por julgadores individuais e/ou órgãos colegiados; assistentes virtuais para informar os jurisdicionados ou apoiá-los em processos legais; elaboração de estatísticas provisórias sobre a gestão de recursos humanos e financeiros no Poder Judiciário.
Essa realidade aumenta a importância quanto ao debate regulatório das soluções de IA aplicadas ao Poder Judiciário, bem como da análise detalhada dos princípios organizados pela Comissão Europeia para a Eficiência da Justiça (CEPEJ) no documento “European Ehtical Charter on use of artificial intelligence in judicial systems”, adotado em dezembro de 2018, a fim de estruturar o significado do uso ético, confiável e responsável da IA nos sistemas de justiça, quais sejam:
(1) Respeito aos direitos fundamentais: exigência de que nas etapas de projeto e treinamento sejam inseridas nos sistemas de IA (aplicações que envolvam processamento de decisões judiciais e dados; solução de conflitos; auxílio na tomada de decisões; e orientações ao público) regras que proíbam violações diretas ao âmbito de proteção deste princípio, o qual engloba a legislação sobre direitos fundamentais e proteção de dados pessoais e os princípios de independência dos juízes e do Estado Democrático de Direito.
(2) Não-discriminação: os atores envolvidos no desenvolvimento dos sistemas de IA devem garantir a capacidade de os métodos de processamento de dados não reproduzirem ou agravarem discriminações proibidas, especialmente quando baseados direta ou indiretamente em dados sensíveis, em conjunto com a existência de medidas corretivas para mitigar ou neutralizar esses riscos, além de conscientizar as partes interessadas.
O conjunto de dados utilizado para treinamento dos sistemas de IA precisar ser suficientemente representativo quanto a dimensões diversificadas (etnia, gênero, opiniões políticas, crenças religiosas ou filosóficas, orientação sexual, entre outras), bem como conservar as informações relativas a essa fase, de modo a assegurar a avaliação por terceiros independentes e a identificação das decisões tomadas por esse tipo de tecnologia.
(3) Qualidade e segurança: recomendações para – a formação de equipes multidisciplinares, envolvendo profissionais jurídicos e pesquisadores nas áreas de direito e ciências sociais, visando a produção de modelos funcionais; o uso de fontes certificadas para acesso às decisões judiciais, as quais não podem ser modificadas até o processamento pelo sistema de IA, proporcionando transparência quanto a inexistência de alteração no conteúdo ou significado da decisão judicial que está sendo processada; e o armazenamento de modelos e algoritmos em ambiente seguro, objetivando integridade e intangibilidade do sistema.
(4) Transparência, imparcialidade e equidade: os objetivos desse princípio relacionam-se a compreensão pelos usuários dos resultados que são produzidos pela IA (em linguagem clara e familiar) e a possibilidade de auditoria dos métodos de processamento de dados. Para tanto, recomenda-se o fornecimento de subconjuntos de informações sobre o algoritmo (natureza dos serviços oferecidos, ferramentas desenvolvidas, variáveis em uso, dados de treinamento, riscos de erro); o desenvolvimento de mecanismos que reduzam o viés (atitudes discriminatórias em relação às pessoas humanas) por meio de mais diversidade nos conjuntos de dados e nas abordagens; e a priorização dos interesses da Justiça.
(5) Sob o controle do usuário: se refere ao aumento da autonomia dos usuários; importância dos profissionais do Poder Judiciário (possibilidade de revisão das decisões judiciais e dados utilizados para produzir resultados); disponibilização de informação clara e compreensível (processamento prévio por IA antes ou durante o processo judicial, com direito de rejeição; caráter vinculativo ou não das soluções baseadas em IA; diferentes opções disponíveis; direitos ao aconselhamento jurídico e acesso à justiça); e participação obrigatória dos sujeitos que integram os sistemas de justiça.
Por: Wilson Sales Belchior
Compartilhar:
Categorias
Administrativo
Advocacia nos Tribunais Superiores
Ambiental
Bancário e Financeiro
Contencioso Especializado Cível
Contencioso Especializado em Direito do Consumidor
Contratos
Direito Digital
Direito do Consumidor
Eleitoral
Energia Elétrica
Pacto Global
Penal Empresarial
Recuperação de Crédito
RMS Advogados
Saúde
Seguros e Resseguros
Societário
Telecomunicações
Trabalhista
Transportes
Tributário
Notícias Relacionadas
Conselho Nacional de Justiça lança aplicativo para apoiar pessoas egressas do sistema prisional
Aplicativo Escritório Social Virtual (ESVirtual)
O Conselho Nacional de Justiça (CNJ) lança hoje, 20/04/2021, o aplicativo Escritório Social Virtual (ESVirtual). O objetivo é ampliar a oferta de serviços disponíveis à pessoa...
20/04/2021
Tribunal de Justiça de Minas Gerais mantém suspensão de jogador de Free Fire
A 11ª Câmara Cível do Tribunal de Justiça de Minas Gerais negou provimento ao recurso interposto por jogador do game Free Fire, no qual pleiteava-se a...