IA no Poder Judiciário: Resolução CNJ nº 332/2020

Resolução Sobre Inteligência Artificial no Poder Judiciário

• Estabelece diretrizes para o desenvolvimento, utilização e governança de soluções de inteligência artificial no Poder Judiciário.
• Resolução CNJ nº 332/2020 estabelece diretrizes sobre ética, transparência e governança no uso de IA no Judiciário.
• O avanço rápido das tecnologias de IA, especialmente algoritmos com grandes modelos de linguagem, destaca a capacidade de interação e geração de soluções automáticas.
• Há necessidade de regulamentação específica para o uso de IA generativa no Poder Judiciário, garantindo transparência, ética, dignidade humana, direitos humanos, não discriminação e responsabilização.
• A autonomia dos tribunais na adoção de tecnologias inovadoras deve ser promovida, incentivando práticas éticas e responsáveis no uso da IA.
• A utilização de IA generativa para decisões judiciais requer transparência, fiscalização e revisão humana.
• Através do parecer da Comissão Permanente de Tecnologia da Informação e Inovação do Conselho Nacional de Justiça (Processo nº 0000416-89.2023.2.00.0000), a governança adequada da IA, especialmente a generativa, é destacada.
• É necessário que o desenvolvimento de IA no Judiciário observe critérios éticos como transparência, previsibilidade, auditabilidade e justiça substancial.
• As soluções de IA devem ser auditadas quanto à segurança da informação, proteção de dados, performance, confiabilidade, prevenção de vieses e conformidade legal e ética.
• A colaboração e o compartilhamento de informações sobre o uso de IA no Poder Judiciário devem ser incentivados para garantir transparência e eficácia.
• As prerrogativas do Ministério Público, da Defensoria Pública, da Advocacia e de outros atores do sistema de justiça devem ser respeitadas.
• A atualização da Resolução nº 332/2020 considerou sugestões de magistrados, sociedade civil, especialistas e instituições durante audiência pública em setembro de 2024.
• O Grupo de Trabalho instituído pela Portaria CNJ nº 338 de 30 de novembro de 2023 apresenta propostas para regulamentar o uso de sistemas de inteligência artificial generativa.
• Diretrizes e normas foram criadas pelo Plenário do Conselho Nacional de Justiça com o Procedimento n° 0000563-47.2025.2.00.0000 na 1ª Sessão Extraordinária de 2025 (18 de fevereiro de 2025)

Capítulo I - Definições e Fundamentos

• A Resolução estabelece normas para o desenvolvimento, governança, auditoria, monitoramento e uso responsável da IA no Poder Judiciário.
• Objetivos incluem promover inovação, eficiência, segurança, transparência, isonomia e ética, beneficiando os jurisdicionados e garantindo seus direitos.
• A governança de IA respeita a autonomia dos tribunais, permitindo soluções inovadoras locais que se adaptem ao contexto de cada tribunal.
• Padrões de auditoria, monitoramento e transparência são definidos pela Resolução, sem prejuízo da atuação do CNJ.
• Auditoria e monitoramento de IA são realizados com base no impacto da solução, garantindo auditabilidade/monitoramento acessível, mecanismos de transparência e controle.
• A transparência na IA é promovida por indicadores claros e relatórios públicos em linguagem simples, garantindo que os jurisdicionados conheçam o uso da IA, sem prejudicar a eficiência.
• Os tribunais devem priorizar o desenvolvimento colaborativo de soluções de IA, promovendo a interoperabilidade, disseminação de tecnologias, códigos, bases de dados e boas práticas.
• O CNJ pode criar mecanismos de incentivo, como reconhecimento público e priorização de recursos, para tribunais que adotem práticas colaborativas/cooperativas no desenvolvimento de IA.
• O desenvolvimento, governança, auditoria, monitoramento e uso responsável da IA no Poder Judiciário têm como fundamentos o respeito aos direitos fundamentais e valores democráticos.
• A promoção de bem-estar aos jurisdicionados é um dos fundamentos para o uso da IA
• O desenvolvimento tecnológico e estímulo à inovação no setor público, a colaboração entre tribunais e o CNJ, e a autonomia são outros dos fundamentos.
• A centralidade da pessoa humana, a participação e supervisão humana nas etapas de desenvolvimento e o uso da IA são fundamentais.
• A utilização de tecnologias como ferramentas auxiliares para aumentar a eficiência e automação de serviços judiciários é essencial.
• A promoção da igualdade, pluralidade e justiça decisória, a formulação de soluções seguras para os usuários e a proteção de dados pessoais também são aspectos cruciais
• A curadoria de dados, fontes seguras, rastreáveis e auditáveis deve ocorrer com o conhecimento sobre as soluções e seus mecanismos.
• A garantia de segurança da informação, segurança cibernética e a transparência dos relatórios são relevantes.
• Os princípios para o desenvolvimento, governança, auditoria e uso responsável de soluções de IA (Justica, Equidade, Inclusão, Não Discriminação Ilícita, Transparência, Eficiência, etc)
• A segurança jurídica, segurança da informação, buscar a eficiência e qualidade na entrega e a observância dos direitos fundamentais são princípios.
• O devido processo legal, ampla defesa, contraditório, identidade do juiz e a razoável duração do processo são princípios.
• A prevenção, a precaução e o controle quanto a medidas eficazes para a mitigação de riscos derivados do uso intencional ou não-intencional de soluções são princípios.
• A supervisão humana efetiva, periódica e adequada e a capacitação contínua para magistrados e servidores também.

Definições

• Sistema de Inteligência Artificial (IA): sistema baseado em máquina que processa dados para gerar resultados coerentes que influenciam o ambiente.
• Ciclo de vida: série de fases desde a concepção até a descontinuidade de um sistema de IA, incluindo o acompanhamento dos impactos.
• Sinapses: solução computacional na Plataforma Digital do Poder Judiciário (PDPJ-Br) para armazenar, testar, treinar, distribuir e auditar modelos de IA.
• Desenvolvedor de sistema de IA: pessoa que desenvolve ou comissiona um sistema de IA para colocá-lo no mercado ou aplicá-lo em serviço.
• Usuário: pessoa que utiliza o sistema de IA e exerce controle sobre suas funcionalidades.
• Usuário interno: membro, servidor ou colaborador do Poder Judiciário que desenvolve ou utiliza o sistema inteligente.
• Usuário externo: pessoa externa ao Poder Judiciário que interage diretamente com o sistema de IA do Judiciário (advogados, defensores públicos, procuradores, etc.)
• Distribuidor: pessoa que disponibiliza e distribui sistema de IA para que terceiro o opere.
• Inteligência artificial generativa (IAGen): sistema destinado a gerar ou modificar texto, imagens, áudio, vídeo ou código através de modelos estatísticos e aprendizado.
• Avaliação preliminar: processo de avaliação de um sistema de IA, classificando seu grau de risco.
• Avaliação de impacto algorítmico: análise contínua dos impactos de um sistema de IA sobre os direitos fundamentais.
• Comitê Nacional de Inteligência Artificial do Judiciário: Comitê com composição plural para auxiliar o CNJ na implementação e supervisão da aplicação da Resolução.
• Viés discriminatório ilegal ou abusivo: resultado discriminatório que cria, reproduz ou reforça preconceitos.
• Privacy by design: preservação da privacidade desde a concepção de um projeto de IA.
• Privacy by default: utilização de alto nível de confidencialidade de dados por padrão.
• Prompt: texto utilizado na IA generativa para execução de uma tarefa específica.
• Auditabilidade: capacidade de um sistema de IA se sujeitar à avaliação dos seus algoritmos e processos.
• Explicabilidade: compreensão clara de como as decisões são tomadas pela IA.
• Contestabilidade: possibilidade de questionamento e revisão dos resultados gerados pela IA.

Capítulo II - Respeito aos Direitos Fundamentais

• Os tribunais devem observar a compatibilidade das soluções de IA com os direitos fundamentais, especialmente os previstos na Constituição e tratados.
• A verificação de compatibilidade com os direitos fundamentais deve ocorrer em todas as fases do ciclo de vida da IA.
• Os tribunais devem implementar mecanismos de auditoria e monitoramento contínuos para garantir a conformidade das soluções de IA com os direitos fundamentais.
• Ordem dos Advogados do Brasil (OAB), ao Ministério Público e demais devem ter acesso às avaliações de impacto algorítmico.
• A adoção de aplicações de IA deve garantir a segurança jurídica e colaborar para que o Poder Judiciário respeite os princípios estabelecidos.
• Os tribunais e desenvolvedores de IA serão responsáveis pela criação de diretrizes internas para assegurar a conformidade das soluções de IA com os princípios estabelecidos.
• Os dados utilizados devem ser representativos de casos judiciais, observando o segredo de justiça e a proteção de dados pessoais (LGPD).
• Os dados devem ser anonimizados sempre que possível, obrigatoriamente para dados sigilosos ou protegidos por segredo de justiça.
• Os tribunais devem implementar mecanismos de curadoria e monitoramento dos dados utilizados, assegurando a conformidade com a legislação de proteção de dados.
• Os produtos de IA para suporte às decisões devem preservar a igualdade, a não-discriminação, a pluralidade, auxiliando no julgamento justo e eliminando erros de julgamento.
• Medidas preventivas devem ser implementadas para evitar vieses discriminatórios, incluindo a validação contínua e a auditoria das soluções de IA.
• Em caso de viés discriminatório ou incompatibilidade, medidas corretivas devem ser adotadas, incluindo a suspensão, correção ou eliminação da solução.
• Se a eliminação do viés discriminatório for impossível, a solução de IA deve ser descontinuada e cancelado seu registro no Sinapses.

Capítulo III - Categorização dos Riscos

• Os tribunais devem avaliar as soluções de IA para definir seu grau de risco, baseando-se em fatores como o impacto nos direitos fundamentais e na complexidade do modelo.
• A avaliação deve ser realizada pelo Tribunal desenvolvedor ou contratante, preferencialmente durante o período de testes e homologação.
• O Comitê Nacional de Inteligência Artificial do Judiciário fixará as diretrizes e critérios de avaliação de risco.
• O Comitê Nacional de Inteligência Artificial do Judiciário poderá reclassificar o grau de risco de determinada solução, realizar um estudo de impacto algorítmico e respeitar a autonomia dos tribunais.
• Atividades vedadas ao poder judiciário:
  • soluções que impossibilitem a revisão humana
  • soluções que valorizem traços da personalidade
  • soluções que classifiquem ou ranqueiem pessoas naturais com base em comportamentos para análise de direito.
• Conclusões*:
• A Resolução estabelece que qualquer solução de IA que se enquadre em alguma das vedações citadas deve ser descontinuada.
• Também estabelece que as soluções de IA estão sujeitas a alto ou baixo risco.
• As soluções de alto risco, passam regularmente por auditoria regular e monitoramento contínuo.
• A categorização disposta será revista pelo menos anualmente para assegurar que a classificação dos altos riscos permaneça dentro das exigências legais e éticas.
• As soluções de baixo risco, devem ser monitoradas periodicamente, para assegurar a classificação continuar a ser de baixo risco.

Capítulo IV - Medidas de Governança

• A segurança dos sistemas de inteligência artificial devem ser garantidas pelo Tribunal, por meio de:

  • medidas de transparência, publicação de relatórios sobre os sistemas: objetivos, dados utilizados e mecanismos de supervisão
  • mitigação de potenciais vieses discriminatórios ( monitoramento, analise, correção e revisão periódica de novos modelos da IA)
  • Acompanhamento contínuo ( responsáveis internos pela fiscalização das diretrizes)
  • desenvolvimento de soluções interoperáveis (evitar a duplicação de esforços)
  • determinações de código aberto ou comerciais para adaptação aos contexto locais
  • tratadas com gestão de produto (requisitos, desenvolvimento, testes, suporte, etc)
  • desenvolvimento de APIs

• Medidas de governança que uma solução de inteligência artificial de alto risco deve ter antes de ser colocada em produção envolve:

  • dados de treinamento, validação e teste adequados
  • registro de fontes automatizadas e do grau de supervisão
  • linguagem objetiva e simples para usuários
  • documentação em linguagem simples
  • registro automatizado da operação do sistema
  • dados para mitigar e prevenir a discriminação
  • explicabilidade adequada

Capítulo V - Supervisão e Implementação

• O Comitê Nacional de Inteligência Artificial do Judiciário será formado por 14 membros titulares e 13 suplentes, divididos por categoria e indicados pelo Presidente do CNJ, com a seguinte composição:

  • 2 Conselheiros do CNJ
  • 2 juízes auxiliares e 2 servidores do CNJ
  • 2 magistrados
  • 4 desembargadores
  • 2 representantes das escolas da magistratura
  • 4 magistrados
  • 2 representantes da OAB
  • 2 representantes do MP
  • 2 representantes da Defensoria Pública
  • 2 representantes da sociedade civil

• As competências do Comitê Nacional de Inteligência Artificial do Judiciário são:

  • avaliar a necessidade de atualização dos riscos
  • reclassificar sistemas desenvolvidos dentro ou fora dos tribunais
  • estabelecer normas e diretrizes
  • consolidar padrões
  • sugerir que o CNJ realize convênios e acordos
  • avaliar a conveniência do uso
  • monitorar treinamentos
  • definir a periodicidade
  • definir protocolos padronizados
  • estabelecer padrões mínimos

Capítulo VI - Uso e Contratação de Modelos de Linguagem de Larga Escala

+ Modelos de linguagem de larga escala poderão ser autorizados pelos magistrados
+ Os magistrados podem contratar o uso para apoio as suas atividades
    - É recomendado que o Tribunal forneça esse uso para uso no Judiciário
    - Deve existir capacitação e treinamento específicos

Capítulo VII - Transparência e Registro no Sinapses

+ É dever de modelos de inteligência artificial adotados pelos órgãos do Poder Judiciário observar as regras de proteção
+ O Conselho Nacional da Justiça deve prover a plataforma Sinapses com a estrutura necessária
+ O Conselho Nacional de Justiça deve indicar o grau de risco dessas aplicações (baixo, médio ou alto)