Fachin alerta para vulnerabilidades algorítmicas e cita Resolução 615

O ministro Edson Fachin, presidente do Conselho Nacional de Justiça (CNJ) e do Supremo Tribunal Federal (STF), defendeu nesta segunda-feira (1º), no Rio de Janeiro, que o ordenamento jurídico brasileiro precisa enfrentar a opacidade dos sistemas automatizados de decisão e ampliar mecanismos de revisão humana, sob pena de a inteligência artificial agravar quadros de insolvência e reproduzir desigualdades estruturais. A fala abriu as Jornadas Internacionais da Associação Henri Capitant, dedicadas às vulnerabilidades algorítmicas no Direito Civil contemporâneo, e teve como pano de fundo a Resolução CNJ nº 615/2025, que disciplina o uso de IA no Judiciário.

Contexto

A expansão de sistemas algorítmicos em concessão de crédito, precificação de seguros, análise de risco contratual e até em triagens processuais tornou inevitável o debate sobre a compatibilidade desses mecanismos com o Direito Civil patrimonial e com o regime de proteção de dados. No Brasil, a Lei Geral de Proteção de Dados (Lei 13.709/2018) reconhece, em seu art. 20, o direito à revisão de decisões automatizadas que afetem interesses do titular, mas a operacionalização desse direito ainda enfrenta obstáculos técnicos — sobretudo quando os modelos preditivos funcionam como verdadeiras "caixas-pretas". O tema também dialoga com a tutela do superendividamento, introduzida no CDC pela Lei 14.181/2021, e com o projeto de Marco Legal da IA (PL 2.338/2023), em tramitação no Congresso.

A fala de Fachin se insere nesse cenário e busca delinear como o magistrado civil deve interpretar relações jurídicas em que a vontade negocial é mediada — ou substituída — por sistemas automatizados de classificação de risco.

O que foi decidido

Não se trata de decisão judicial, mas de orientação programática do presidente do STF e do CNJ sobre o uso de IA no Judiciário e nas relações privadas. O ministro sustentou que decisões automatizadas com aptidão para afetar a vida econômica de pessoas e empresas não podem ser produzidas em zonas de opacidade jurídica e elencou três categorias de vulnerabilidade algorítmica que devem nortear a leitura civil-constitucional do tema:

• Viés algorítmico — reprodução, pelos modelos, de padrões discriminatórios presentes nos dados de treinamento;
• Opacidade decisional — impossibilidade prática de o afetado compreender e contestar o critério da decisão;
• Concentração algorítmica — acúmulo de poder informacional em poucas empresas detentoras de dados em larga escala.

Fachin defendeu o fortalecimento do direito à autodeterminação informacional, a consolidação de mecanismos de revisão de decisões automatizadas e o diálogo interdisciplinar entre juristas, cientistas de dados e engenheiros. Ressaltou ainda que a IA "não possui consciência moral" nem substitui integralmente a responsabilidade humana, posicionando a supervisão humana efetiva como princípio estruturante.

Base normativa e precedentes

• Art. 1º, III, CF/88 — dignidade da pessoa humana como vetor de leitura de qualquer sistema automatizado que classifique indivíduos;
• Art. 5º, X e LXXIX, CF/88 — direito à intimidade e à proteção de dados pessoais, este último incluído pela EC 115/2022;
• Art. 20 da LGPD (Lei 13.709/2018) — direito do titular à revisão de decisões automatizadas que afetem seus interesses, inclusive perfis de consumo, crédito e personalidade;
• Art. 6º da LGPD — princípios da transparência, finalidade, adequação, prevenção e responsabilização (accountability);
• CDC (Lei 8.078/1990), arts. 43 e 54-A a 54-G — bancos de dados, cadastros de consumo e tratamento do superendividamento, particularmente sensíveis a decisões algorítmicas de crédito;
• Código Civil (Lei 10.406/2002), arts. 421 e 422 — função social do contrato e boa-fé objetiva como filtros de contratos firmados mediante triagem automatizada;
• Resolução CNJ nº 615/2025 — disciplina o uso de sistemas de IA pelo Poder Judiciário, com exigências de auditabilidade, supervisão humana e mitigação de vieses.

Impacto prático

A orientação reforça a necessidade de que advogados, empresas e órgãos reguladores tratem a IA como vetor de risco jurídico autônomo, e não como simples ferramenta operacional. Os efeitos mais imediatos:

• Para o contencioso civil e do consumidor — abre espaço para teses de nulidade de cláusulas e de revisão contratual quando o consentimento foi mediado por scoring opaco, especialmente em contratos bancários e de seguro;
• Para empresas que usam IA — eleva o ônus de demonstrar transparência algorítmica, registros de impacto à proteção de dados (RIPD) e governança documentada, sob pena de responsabilidade objetiva por danos a titulares;
• Para o Judiciário — consolida a Resolução CNJ 615/2025 como balizamento mínimo, com exigência de supervisão humana efetiva em ferramentas de triagem e minutagem;
• Para o profissional de compliance — torna inevitável a articulação entre LGPD, CDC e Código Civil em programas de governança de dados e IA;
• Para o cidadão — fortalece o direito à explicação e à revisão humana de decisões automatizadas de crédito, contratação e acesso a serviços.

O que observar

O discurso antecipa três frentes que tendem a ocupar o debate nos próximos meses. A primeira é a regulamentação do Marco Legal da IA (PL 2.338/2023), cuja aprovação deve dialogar diretamente com os princípios mencionados por Fachin. A segunda é a interpretação que o STJ dará ao art. 20 da LGPD, sobretudo quanto à exigência ou não de revisão por pessoa natural — debate ainda aberto após o veto presidencial e a posterior reinserção parcial do dispositivo. A terceira é a possibilidade de que o próprio STF venha a enfrentar, em sede de controle concentrado ou repercussão geral, os limites constitucionais da automação decisória sobre direitos fundamentais. Para a advocacia, o recado é claro: estruturar pedidos que articulem dignidade, autodeterminação informacional e função social do contrato deixou de ser exercício acadêmico e passou a ser estratégia processual concreta.