Prompt injection e fraude processual na era da IA: segurança digital no processo

O comprometimento da integridade de sistemas de inteligência artificial utilizados no apoio às decisões judiciais representa um risco estrutural para a segurança jurídica e a confiabilidade do processo. A técnica conhecida como prompt injection—que consiste em injetar comandos maliciosos em interfaces de linguagem natural para desviar algoritmos de seu funcionamento previsto—abre uma nova frente de vulnerabilidade no contexto de fraude processual e manipulação de provas digitais.

Contexto

O uso crescente de sistemas de inteligência artificial como ferramentas auxiliares nas decisões processuais vem ocorrendo em paralelo à sofisticação de técnicas de ataque a esses sistemas. Diferentemente das disputas probatórias tradicionais—que historicamente se concentraram em testemunhas, perícias forenses convencionais e documentos em papel—o ambiente digital permite manipulações de difícil detecção, capazes de influenciar não apenas a interpretação de dados, mas a própria geração de pareceres e fundamentações utilizadas por magistrados.

O Marco Civil da Internet (Lei 12.965/2014) estabelece princípios fundamentais para a responsabilidade civil e a segurança da informação em ambientes digitais, enquanto a Lei Geral de Proteção de Dados (Lei 13.709/2018) impõe obrigações de integridade e segurança sobre o processamento de informações pessoais. Entretanto, nenhuma dessas normas aborda especificamente os riscos de contaminação maliciosa de algoritmos durante o processo decisório judicial.

A questão central que emerge é: como garantir a autenticidade e a confiabilidade de uma decisão judicial quando a fundamentação foi potencialmente mediada por um sistema comprometido? Este problema transcende a simple falsificação de documentos—trata-se da possibilidade de alterar a própria lógica por meio da qual a prova é avaliada.

O que foi decidido

Análises jurídicas contemporâneas sobre o tema indicam uma crescente preocupação de cortes e doutrinadores com a vulnerabilidade de infraestruturas digitais no contexto probatório. Embora não exista ainda una decisão específica de tribunal superior brasileiro sobre prompt injection em processo penal, juristas e comentadores vêm apontando a necessidade de revisão dos marcos normativos aplicáveis à autenticação de provas geradas ou processadas por sistemas de IA.

A reflexão central gravita sobre o conceito de cadeia de custódia digital e a exigência de rastreabilidade técnica das operações realizadas por algoritmos. Diferentemente da cadeia de custódia clássica—que documenta o manejo físico de materiais probatórios—a cadeia digital deve registrar não apenas que uma prova foi inserida em sistema, mas como, quando e por qual rota lógica foi processada.

Base normativa e precedentes

• Marco Civil da Internet (Lei 12.965/2014) — Estabelece como princípios a liberdade e a inviolabilidade de dados, impondo responsabilidade a quem oferece serviços digitais pelo controle de acesso e pela segurança de informações. Art. 7.º vincula-se a direitos fundamentais do usuário.

• Lei Geral de Proteção de Dados (Lei 13.709/2018) — Exige que os controladores de dados implementem medidas técnicas e organizacionais para garantir a integridade, autenticidade e confidencialidade do processamento (arts. 5.º, 46 e 47). Complementa-se com a Resolução CNJ 65/2008, que estabelece padrões de segurança da informação no Judiciário.

• Código de Processo Penal (Decreto-Lei 3.689/1941) — O art. 157 proíbe a admissão de provas ilícitas ou que violem direitos fundamentais. A jurisprudência consolidada estende este princípio a provas cuja cadeia de custódia foi comprometida ou cuja autenticidade não possa ser verificada.

• Constituição Federal, art. 5.º, inciso LVI — Garante que a lei não admitirá provas obtidas por meios ilícitos. A doutrina contemporânea estende a lógica para provas cuja integridade foi quebrada por ataques técnicos.

• Jurisprudência do STF — A corte vem enfatizando em decisões recentes (v.g., julgados sobre perícia digital e autenticação de documentos eletrônicos) que a confiabilidade técnica é pressuposto da admissibilidade probatória.

Impacto prático

Para operadores do direito penal, a compreensão dos riscos associados a prompt injection e contaminação de sistemas de IA tem implicações concretas:

• Advogados de defesa devem começar a questionar em contraditório a origem, a integridade e o processamento de qualquer parecer técnico ou fundamentação gerada por sistema de IA, especialmente em casos de maior complexidade ou que envolvam grande volume de dados.

• Tribunais e cartórios precisam documentar com rigor a cadeia de processamento digital de provas e pareceres, registrando não apenas arquivos de entrada e saída, mas logs de todas as operações intermediárias.

• Órgãos acusadores (Ministério Público) devem ter clareza quanto à responsabilidade por eventuais comprometimentos de sistemas que alimentam investigações ou fundamentam denúncias.

• Peritos devem ampliar seu escopo de trabalho para incluir a análise técnica não apenas do conteúdo de provas digitais, mas também da integridade dos ambientes e sistemas onde foram processadas.

O que observar

Alguns pontos de atenção para a evolução jurisprudencial e normativa:

1. Modulação de precedentes: Não é improvável que futuros julgados venham a reformular a admissibilidade de provas processadas por sistemas de IA sem mecanismos robustos de auditoria e rastreamento.

2. Regulamentação específica: Espera-se a edição de normas infralegais (resoluções do CNJ, portarias do Conselho Nacional do Ministério Público) que padronizem requisitos técnicos de segurança para sistemas de IA em ambientes processuais.

3. Responsabilidade civil: A contaminação de um sistema que gera parecer utilizado em decisão judicial pode abrir discussão sobre responsabilidade civil do fornecedor do software e, potencialmente, da própria instituição judicial por negligência no controle de acesso e segurança.

4. Direito comparado: Tribunais europeus, particularmente a Corte Europeia de Direitos Humanos e cortes constitucionais de países como Alemanha e França, vêm desenvolvendo jurisprudência sobre a exigência de transparência e rastreabilidade de decisões apoiadas por IA. Esses precedentes podem influenciar evoluções no Brasil.