CNJ aprova programa de segurança contra manipulação de IA no Judiciário

O Conselho Nacional de Justiça (CNJ) formalizou, através de seu Comitê Nacional de Inteligência Artificial no Judiciário, um conjunto de medidas estruturantes destinadas a fortalecer a segurança dos sistemas de inteligência artificial em operação nos órgãos judiciários brasileiros, aprovando a Manifestação Técnica CNIAJ 1/2026 e instituindo o Programa de Segurança Adversarial para Sistemas de Inteligência Artificial do Poder Judiciário Brasileiro (PROSEG-IA).

Contexto

A adoção de ferramentas de inteligência artificial no Judiciário expandiu-se significativamente nos últimos anos, com diversos tribunais utilizando algoritmos para análise de documentos, auxílio em pesquisa jurisprudencial e processamento de volumetria processual. Contudo, a integração acelerada dessas tecnologias expôs a Justiça a novos vetores de risco — particularmente a possibilidade de que atores maliciosos injetem comandos dissimulados (prompt injections) em documentos processuais, capazes de desviar o comportamento de sistemas de IA, provocar divulgação indevida de informações ou comprometer a integridade da análise jurisdicional.

Antes dessa iniciativa, não havia orientação técnica nacional consolidada sobre prevenção e resposta a tais ataques. A fragmentação entre os tribunais — cada qual com sua infraestrutura e práticas próprias — criava lacunas de segurança e dificultava a resposta coordenada a incidentes. A Resolução CNJ nº 615/2025 estabeleceu o marco regulatório geral de governança de IA no Poder Judiciário; as medidas aprovadas em maio/2026 operacionalizam esse enquadramento com foco em segurança ofensiva e defensiva.

O que foi decidido

O Comitê Nacional aprovou duas iniciativas complementares. Primeiro, a Manifestação Técnica CNIAJ 1/2026, documento que valida e documenta os riscos concretos de injeção de comandos escondidos em arquivos processuais e institui um programa nacional de prevenção, detecção e capacitação. A manifestação técnica reconhece que comandos ocultos — textos invisíveis, instruções codificadas em metadados, ou cargas úteis embutidas em anexos — podem interferir no funcionamento de ferramentas de IA ou levar à vazamento de informações sensíveis.

Segundo, o PROSEG-IA (Programa de Segurança Adversarial), que constitui uma estrutura permanente de defesa. O programa cria uma frente institucional para lidar com riscos de manipulação no uso de IA pelo Judiciário, dando suporte a projetos voltados à segurança das ferramentas, à preparação de órgãos judiciais para novas formas de ataque e à uniformização de parâmetros comuns de segurança entre tribunais. O PROSEG-IA visa permitir que o CNJ coordene respostas ágeis a incidentes e evite ações isoladas ou incompatíveis.

Base normativa e precedentes

• Resolução CNJ nº 615/2025 — Estabelece as regras nacionais de governança para adoção segura e supervisionada de sistemas de inteligência artificial no Poder Judiciário.
• Lei Geral de Proteção de Dados (LGPD, Lei 13.709/2018) — Princípios de segurança, transparência e responsabilização que orientam o tratamento de dados pessoais em sistemas judiciais; relevante quando IA processa informações de partes e terceiros.
• Estratégia Nacional de Segurança Cibernética do Poder Judiciário — Protocolo transversal que orienta práticas de proteção de infraestrutura digital; o PROSEG-IA se integra a esse escopo.
• Programa Justiça [+Segura] — Iniciativa paralela do CNJ que concentra ações de cibersegurança e infraestrutura, complementando o PROSEG-IA em matéria de defesa.

Impacto prático

As medidas aprovadas desdobram-se em três eixos operacionais:

• Para magistrados e servidores: Reforço dos mecanismos de conferência das respostas geradas por IA. Os sistemas devem permitir registro nos autos quando uma ferramenta identificar material adverso ou suspeito (comandos dissimulados, textos invisíveis, informações inseridas indevidamente), informando o magistrado sobre o incidente e permitindo apuração e responsabilização.

• Para órgãos judiciais: Orientações práticas para preparação de documentos antes do uso pela IA, reduzindo a exposição a injeção de comandos. Padronização de critérios de segurança entre tribunais, evitando incompatibilidades.

• Para o CNJ: Atuação com parâmetros comuns e agilidade nas respostas a incidentes, coordenando ações que antes seriam isoladas. Diálogo permanente com tribunais para identificar problemas recorrentes e construir critérios de defesa escaláveis.

O que observar

A manifestação técnica será submetida ao Plenário do CNJ para validação e publicação. Espera-se que órgãos judiciais implementem os parâmetros em prazos a serem definidos, o que demandará investimento em capacitação de equipes técnicas e revisão de fluxos processuais. A segurança de sistemas de IA permanece um terreno dinâmico; novas técnicas de ataque (como prompt injection refinada, envenenamento de dados em treinamento e evasão de filtros) emergem continuamente. O PROSEG-IA deverá manter flexibilidade para adaptar-se a ameaças emergentes, evitando ossificação normativa.

Além disso, o sucesso das medidas dependerá da integração com estruturas existentes de governança de TI e com a estratégia de segurança cibernética mais ampla do Judiciário. Há risco de silos se as iniciativas não convergirem. Profissionais que litigam com documentos eletrônicos devem considerar a crescente inteligência de sistemas de auditoria — tanto de defesa quanto de ataque — e adequar suas práticas de preparação de arquivos e conformidade com padrões de segurança.