jusbrasil.com.br
29 de Maio de 2022

LGPD, algoritmos e open data no Judiciário. Quais serão os rumos do CNJ?

Princípio da publicidade, utilização de dados do judiciário e inteligência artificial: todos querem saber - o que muda com a entrada em vigor da LGPD? Acompanhe aqui a transcrição da live realizada em parceria com o Consultor Jurídico sobre o tema.

Blog do Jusbrasil
Publicado por Blog do Jusbrasil
há 2 anos

O mundo todo trabalha com maneiras de tentar impedir o mau uso de dados pessoais. Nessa rotina, algumas perguntas ganham destaque:

  • O conceito de privacidade mudou ou apenas surgiu o novo conceito de privacidade coletiva?
  • Princípio da publicidade ou proteção da privacidade: o que deve prevalecer?
  • A mineração dos dados no acervo de tribunais deve ser liberada?
  • Qual uso possível pode ser feito com os dados pessoais advindos de processos judiciais?

Essas foram as perguntas que conduziram o encontro Rumos do CNJ: LGPD e algoritmos dos processos, realizado em parceria entre o Consultor Jurídico e o Jusbrasil.

O encontro contou com um time extremamente qualificado, com a participação de: Laura Schertel (professora da UnB e do IDP), Juliano Maranhão (USP e Lawgorithm), Alexandre Zavaglia (pesquisador do CEPI/FGV) e Ronaldo Lemos (advogado especialista em tecnologia). A conversa foi conduzida por Gabriel Azevedo, advogado e advisor do Jusbrasil.

A LGPD entrou em vigor sexta-feira passada (18/09/20) e o Judiciário tem sido pressionado para adequar suas práticas a este novo contexto. Veja agora os principais pontos da conversa.


Como a adequação à Lei Geral de Proteção de Dados Pessoais (LGPD) está sendo conduzida pelo Judiciário?

Em 2019, o Conselho Nacional de Justiça (CNJ) instituiu um Grupo de Trabalho para discutir o acesso a dados no poder judiciário. Uma das frentes do projeto visa garantir que os tribunais de todo país se adequem à Lei Geral de Proteção de Dados (LGPD), na medida em que, como entidades públicas, estão sujeito à lei para todas suas atividades de tratamento e utilização de dados.

Nesse sentido, o CNJ buscou criar uma rede colaborativa entre os tribunais, para que possam trocar experiências sobre a implementação da LGPD em suas atividades.

A segunda frente visa discutir sobre como é possível garantir o cumprimento do princípio constitucional da publicidade sem cair em conflito com os princípios relacionados a proteção de dados pessoais. Importante destacar que a proteção de dados pessoais foi, recentemente, reconhecida pelo Supremo Tribunal Federal (STF) como um direito fundamental, a partir do julgamento da Ação Direita de Inconstitucionalidade 6390.

O Conselho Nacional de Justiça (CNJ) deve regular a implantação da LGPD no âmbito do judiciário?

Na opinião de Juliano Maranhão, a pergunta é complicada, na medida em que envolve um possível conflito entre o papel normativo do CNJ e da Agência Nacional de Proteção de Dados (ANPD), prevista pela LGPD.

Quanto à isso, Maranhão resgata a experiência do conflito de competências já ocorrido entre o Banco Central (Bacen) e Comissão Nacional de Valores (CVM) com o Conselho Administrativo de Defesa Econômica (CADE), que se mostrou contraproducente na atribuição de competências na matéria de defesa de concorrência no Brasil.

Nesse sentido, Maranhão relata a esperança de cooperação entre o CNJ e a ANPD, com base no art. 50 da LGPD:

"Art. 50. Os controladores e operadores, no âmbito de suas competências, pelo tratamento de dados pessoais, individualmente ou por meio de associações, poderão formular regras de boas práticas e de governança que estabeleçam as condições de organização, o regime de funcionamento, os procedimentos, incluindo reclamações e petições de titulares, as normas de segurança, os padrões técnicos, as obrigações específicas para os diversos envolvidos no tratamento, as ações educativas, os mecanismos internos de supervisão e de mitigação de riscos e outros aspectos relacionados ao tratamento de dados pessoais."

De tal forma, a lei possibilita um arranjo harmônico para a condução da proteção de dados pessoais no âmbito do judiciário.

Proteção de dados pessoais não é contrária ao acesso à dados

Em 2018, Claudio Abramo, representante e diretor da Transparência Brasil, expôs seus medos quanto à LGPD: que a mesma poderia interferir com as conquistas trazidas pela Lei de Acesso a Informacao (LAI) no que diz respeito à estrutura geral de disponibilização de dados públicos no país.

Ambas as leis são conquistas importantes em matéria legislativa no Brasil quanto à questão de acesso à informação. Ao mesmo tempo em que é importante proteger os direitos da LGPD em sua integralidade, é essencial que a administração pública brasileira participe das ondas de desenvolvimento tecnológico que vivemos hoje.

De tal modo, o pensamento sobre a LAI e sobre a LGPD devem ser feitos de forma conjunta, a fim de garantir o benefício nacional nas compreensões de uso da informação.

Além disso, é importante ressaltar que a LGPD foi criada para garantir a circulação de dados de maneira correta, justa e organizada. Possui, para tanto, dois princípios: de proteger direitos e de servir como marco de inovação através da própria utilização de dados.

O grande desafio, portanto, é pensar em benefícios ao judiciário advindos de uma lógica 'Gov-Tech', garantindo uma inovação no âmbito do setor público que respeite o direito à proteção de dados pessoais.

Gov-Tech: o que significa isso?

Na definição de Ronaldo Lemos, Gov-Tech é o fato de que:

"todo governo terá que se converter em uma plataforma tecnológica. Governo que não vira plataforma tecnológica perde a capacidade de governar."

De acordo com Lemos, o ideal é que isso aconteça de forma coordenada, de modo a melhorar a condição geral da governança do país,. Nesse sentido, a mudança é capaz de trazer benefícios como a redução da burocracia e a melhora de serviços públicos.

Como o Brasil tem lidado com isso?

Na atualidade, o Brasil possui vitórias muito importante que às vezes não percebemos. O nível de digitalização dos processos do PJe, por exemplo, é inigualável a qualquer outro sistema do tipo no mundo. Além disso, a emissão de Notas Fiscais Eletrônicas é um grande avanço único em nosso país.

O desafio no momento, é compreender o segundo passo: qual uso democrático pode ser dado à essa digitalização já realizada? Que tipo de tratamento e correlações podem ser produzidas?

Como o judiciário pode se aproveitar de conceitos do Gov-Tech?

No Brasil, o setor privado já tem se beneficiado de benefícios e de inovação produzidos por 'Lawtechs'. Por sua vez, quem não se beneficia desse modelo atualmente é o próprio judiciário.

Nesse sentido, é importante que o poder público compreenda como o processo de automação e a utilização de inteligência artificial podem auxiliar na celeridade dos serviços, de forma justa e bem planejada.

A mineração de dados dos acervos de tribunais deve ser liberada? Que uso se pode dar a esses dados?

Anteriormente, os processos eram apenas de papel e ficavam arquivados dentro um gabinete ou secretaria do judiciário. A chance de acesso às informações sensíveis naquele processo eram muito pequenas.

A partir do momento que é possível dar acesso massificado a essas informações, bem como é possível extrair estatísticas e previsão de comportamentos, novos riscos são criados.

No momento em que tudo está disponível para o acesso massificado, como podemos mitigar eventuais e futuros riscos à privacidade, à liberdade à igualdade e à isonomia do cidadão? ~ Laura Schertel

O papel da LGPD, nesse sentido, é nortear a compreensão de como mitigar esse tipo de risco. Atualmente, todos os documentos do processo podem ser acessados por qualquer pessoa: será que eles podem ser utilizados livremente por novas ferramentas?

Além disso, a regra constitucional da transparência implica que saber o nome das partes de um processo é matéria de interesse público. Na opinião de Ronaldo Lemos, por esse motivo, quem deve criar exceções à essa regra é o próprio juiz originário do feito, que pode utilizar a ferramenta do sigilo processual em sintonia com a LGPD.

É importante ressaltar que decisões sobre a anonimização ou sobre os limites de extensão da publicidade dos dados judiciais deverá ser realizado com muita cautela, levando em consideração o papel da publicidade na defesa do interesse público à informação e no fomento à inovação.

Hoje, o Brasil tem uma chance única de se destacar no mercado de legaltechs com uma vantagem competitiva que poucos países possuem: a cultura de abertura de dados. Relativizar tal abertura pode ser fatal para o avanço de tecnologias que utilizem dessa cultura para aprimorar o Judiciário.

Como lidar com esses novos conflitos?

Agora é o momento, portanto, para discutir sobre quais são os limites e os parâmetros da finalidade da utilização de dados públicos, bem como sobre o significado do próprio sentido de sigilo e de publicidade dos atos públicos, de forma a especificar melhor os seus limites.

Como conciliar política de dados abertos e proteção de dados pessoais?

O Lawgorithms, associação de pesquisa em inteligência artificial e direito, realizou estudo sobre acesso à dados judiciais, com análise empírica do que as Lawtechs acessam, como acessam e como esses dados são processados na atualidade.

No estudo da experiência internacional sobre o tema, foi possível perceber que a tradição da Europa atualmente é inversa à do Brasil. O continente possui uma cultura mais restritiva de acesso a dados judiciais e mais solidificada sobre a proteção de dados pessoais. Nesse sentido, as iniciativas europeias atuais são de revisar as regras processuais para garantir maior acesso por terceiros aos dados judiciais, com processo amplo de digitalização de dados em formato legível por máquina.

A política europeia também é orientada pelo desenvolvimento dos mercados de LawTechs e LegalTechs, e é vista como benéfica para atingir as seguintes finalidades:

  • Garantia de melhor compreensão do Direito;
  • Maior eficiência de acesso à informação;
  • Compreensão de elementos normativos e da cultura jurídica;
  • Controle democrático da atuação do judiciário;
  • Consumo dos produtos pelo próprio poder judiciário;
  • Acesso remunerado à dados pelo judiciário, que se beneficiaria do desenvolvimento deste mercado.

O Brasil, por sua vez, tem uma cultura de abertura de dados com processo de digitalização muito mais ampla. Apesar disso, não tem uma cultura tão estabelecida de proteção de dados pessoais, que começa a se moldar no presente.

Nosso desafio atual, portanto, é de compreender como conciliar nosso cenário de digitalização e publicidade com a proteção de dados pessoais estabelecida pela LGPD.

Qual o papel da Inteligência Artificial nesse processo?

Muito mais do que decidir sozinha, a Inteligência Artificial (IA) vem para nos ajudar a decidir melhor. O objetivo é organizar a informação e torná-la mais precisa, de forma a alocar melhor recursos humanos e recursos orçamentários.

Um exemplo é o projeto Termômetro Covid JT-Conjur, que analisa os processos propostos na justiça do trabalho durante a pandemia do novo coronavírus.

Diante dessa análise, foi percebida a existência de milhares de processos sobre o Fundo de Garantia do Tempo de Serviço (FGTS) que diziam respeito, apenas, ao levantamento do valor do FGTS. Ao enxergar esse problema, foi possível realizar uma mudança no procedimento administrativo capaz de destravar a questão e diminuir os processos relacionados à matéria.

O caminho, portanto, é de organizar as informações do judiciário de forma a nos permitir a compreender melhor os problemas da sociedade e, assim, elaborar indicadores que melhorem a eficiência do judiciário.

A Inteligência Artificial pode ser utilizada para decidir um processo?

Nos Estados Unidos da América (EUA), já existem iniciativas que usam inteligência artificial para auxiliar no julgamento de causas. É o caso do COMPAS, sistema utilizado nos Estados Unidos da América que dava suporte às decisões do magistrado, mas sobre o qual se teve grande questionamento sobre a sua discricionariedade.

A grande dificuldade para se chegar a uma decisão automatizada do judiciário se situa dentro do fato de que os modelos de inteligência artificial aplicados utilizam, em sua maioria, a técnica de machine learning. Essa técnica, entretanto, grande dificuldade quanto à explicabilidade da decisão, sendo difícil informar o por quê exato do resultado.

Explicabilidade, no judiciário, impõe a justificação normativa da decisão, fundamental de ser alcançada por ser condição de validade das decisões. Não é possível substituir um juiz se o produto dessa decisão não puder ser explicável, no sentido de trazer uma justificação normativa dentro de um modelo de conhecimento. Esse é o pressuposto para garantir, inclusive, a contestação da decisão.

Enquanto a IA não atingir a capacidade de produzir resultados que sejam explicáveis, do ponto de vista de sua justificação normativa, Maranhão acha difícil que seja legitimado o uso de algoritmos na automatização de decisões.

Qual o limite ético do uso de robôs?

Zavaglia considera que a decisão será sempre um ato privativo do juiz. Nesse sentido, aceita possibilidades de sugestão automatizada que auxilie o magistrado mas, dentro da compreensão da decisão como um ato privativo do magistrado, não considera que seja possível a total automatização.

Há, entretanto, situações repetitivas que podem bem utilizar a tecnologia como suporte de decisão, como o uso de IA com a finalidade de identificar processos repetitivos.

Zavaglia destaca, ainda, que quanto mais objetiva for a subsunção do fato à norma, torna-se mais possível de utilizar tecnologia no processo decisório. Um exemplo é a multa de trânsito: a partir do momento que um carro ultrapassa a velocidade, é aplicada a multa.

Para Schertel, a resposta à pergunta da utilização de IA no processo decisório do judiciário implica no questionamento de se a Inteligência Artificial é capaz de guardar senso de justiça, fator que seria dificilmente atribuído a um algoritmo.

Para além dessa discussão, há uma série de problemas atuais já reconhecidos na aplicação de algoritmos. Ao incorporar os algoritmos na justiça, esses problemas tornam-se mais graves.

Se até o momento, o erro da IA foi sobre uma recomendação de filme ou de música adequada para o nosso perfil, esses novos usos implicam em questões de maior importância: quem poderá entrar em um país? Quem obterá uma vaga de emprego? Ou terá concedido um benefício?

Como exemplo, Schertel citou um sistema automatizado de Michigan que tinha o objetivo de buscar fraudes na utilização do seguro-desemprego. Entre 2013 e 2015, o sistema teria acusado 40 mil pessoas da existência de fraude de forma inadequada. Esse tipo de acusação tem a possibilidade de modificar totalmente a vida dos acusados.

Com o monopólio da força pelo Estado, é necessária uma extra-cautela sobre a decisão de utilização de algoritmos no judiciário. De tal modo, é recomendável que sejam realizadas auditorias, com um alto nível de adequação e correção dos dados, de forma a garantir que o produto decisório é melhor do que o trabalho da massa de dados apenas por humanos.

A grande questão, portanto, é: como regular esse uso?

Quais as experiências de uso de IA no Brasil?

Há alguns meses, o TRF-3 divulgou o primeiro movimento no sentido de utilização de IA para apoiar um gabinete. Trata-se de um exemplo exitoso, que se preocupou em deixar muito claro os caminhos e limites de utilização da inteligência artificial no âmbito do judiciário.

Considerações Finais

Há, ainda, um caminho longo a ser percorrido no Brasil para consolidar uma verdadeira cultura de proteção de dados no país. Novamente, proteção de dados pessoais não significa a restrição do acesso aos dados judiciais, mas representa a criação de mecanismos que garanta o acesso com qualidade e respeito aos direitos dos envolvidos.

Tudo isso só pode ser realizado com um grande diálogo com diferentes atores desse ecossistema, o que pavimenta um caminho instigante para o futuro brasileiro.


Quer saber mais sobre a Lei Geral de Proteção de Dados e seus impactos no dia a dia de seus clientes?

Fizemos uma parceria com a Resultados Digitais, uma das maiores empresas de marketing digital do país, para disponibilizar um kit completo sobre os efeitos da entrada em vigor da LGPD.

São posts, vídeos e 13 aulas ministradas pela Fernanda Nones, especialista em proteção de dados da Resultados Digitais - tudo de graça.

Clique aqui e acesse agora esse material gratuito!


Texto de Manu Halfeld

Informações relacionadas

Paduan Seta, Advogado
Artigoshá 2 anos

Como Tratar Dados Pessoais Públicos?

Blog do Jusbrasil
Artigoshá 2 anos

Advocacia digital: entenda o que é e como executar

Blog do Jusbrasil
Artigoshá 2 anos

Advocacia virtual: saiba como atrair e conquistar clientes online

Katleen Padovani, Advogado
Artigoshá 9 meses

O que é a Lei Geral de Proteção de Dados Pessoais (LGPD)?

Franciele Stadtlober, Advogado
Modeloshá 11 meses

Contrato de honorários de acordo com a LGPD

0 Comentários

Faça um comentário construtivo para esse documento.

Não use muitas letras maiúsculas, isso denota "GRITAR" ;)