Vulnerabilidades algorítmicas desafiam o Direito Civil brasileiro

A expansão de sistemas automatizados de decisão — do escore de crédito à triagem de currículos, passando por concessão de benefícios e precificação de seguros — produz uma nova categoria de fragilidade jurídica: a vulnerabilidade algorítmica. O Direito Civil contemporâneo é convocado a reinterpretar autonomia da vontade, boa-fé objetiva e função social do contrato para responder a decisões opacas que podem determinar a ruína econômica de pessoas físicas e jurídicas.

Contexto

A escolha do tema da insolvência para as Jornadas Internacionais da Associação Henri Capitant de 2026 evidencia que o endividamento e a recuperação econômica deixaram de ser fenômenos puramente contratuais. Hoje, situações de superendividamento, negativação e exclusão de crédito são frequentemente precedidas — ou agravadas — por modelos preditivos que classificam riscos com base em variáveis muitas vezes inacessíveis ao próprio titular dos dados.

A esse cenário soma-se uma intervenção simbólica relevante: em maio, o Papa Leão XIV publicou a encíclica Magnifica Humanitas, defendendo a "salvaguarda da pessoa humana na era da Inteligência Artificial". Embora não tenha natureza jurídica, o documento dialoga com a metodologia civil-constitucional brasileira, que parte da dignidade da pessoa humana (art. 1º, III, CF/88) como vetor de interpretação das relações privadas. A doutrina de Pietro Perlingieri, sobre a eficácia horizontal dos direitos fundamentais, ganha novo alcance diante de relações intermediadas por plataformas digitais e sistemas autônomos de decisão.

O que foi decidido

Trata-se aqui de análise doutrinária, não de julgado. O autor sustenta que o Direito Civil precisa reconhecer expressamente a categoria da vulnerabilidade algorítmica, definida como a condição em que sistemas automatizados — baseados em dados, modelos preditivos e inteligência artificial — produzem resultados que violam, reproduzem ou amplificam assimetrias de poder, discriminações estruturais e restrições ilegítimas ao exercício de direitos subjetivos.

Três modalidades são destacadas:

• Viés algorítmico: o sistema reproduz desigualdades históricas (de gênero, raça, território) presentes nos dados de treinamento, produzindo discriminação travestida de objetividade científica. Um algoritmo de crédito que penaliza determinados CEPs ilustra a discriminação indireta com aparência de neutralidade.
• Opacidade decisional: decisões automatizadas negam benefícios, vagas ou serviços com base em critérios que o titular não consegue compreender ou contestar, ferindo o direito à motivação e ao contraditório.
• Concentração algorítmica: poucos agentes — públicos e privados — controlam os sistemas que medeiam o acesso a bens e oportunidades, criando novo desequilíbrio estrutural.

A premissa civilista clássica do sujeito racional, informado e livre para consentir é desafiada em três frentes: manipulação de preferências por sistemas de recomendação, assimetria informacional estrutural mascarada por termos de uso ininteligíveis e dificuldade prática de revisão das decisões automatizadas.

Base normativa e precedentes

• Art. 1º, III, CF/88 — dignidade da pessoa humana como cláusula geral que irradia eficácia horizontal sobre relações privadas mediadas por algoritmos.
• Art. 5º, X e XII, CF/88 — proteção à intimidade, vida privada e sigilo de dados, fundamento constitucional do tratamento de informações pessoais.
• Lei 13.709/2018 (LGPD), especialmente art. 20 — assegura ao titular o direito de revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses, incluindo perfis de consumo, crédito e personalidade.
• Lei 12.965/2014 (Marco Civil da Internet) — princípios de transparência, neutralidade e proteção de dados aplicáveis a provedores de aplicação.
• Código Civil (Lei 10.406/2002) — arts. 421 e 422, função social e boa-fé objetiva como filtros de validade e execução de contratos celebrados em ambientes algorítmicos.
• Código de Defesa do Consumidor (Lei 8.078/1990) — art. 4º (vulnerabilidade do consumidor), art. 6º, III (informação adequada e clara) e arts. 43 e 54-A a 54-G (cadastros, bancos de dados e superendividamento incluídos pela Lei 14.181/2021).
• Convenção Americana de Direitos Humanos (Pacto de San José, 1969) — proteção da honra, dignidade e devido processo, aplicável também à esfera privada.

Impacto prático

A categoria da vulnerabilidade algorítmica oferece chave hermenêutica concreta para advogados e magistrados em litígios cada vez mais comuns:

• Revisão de decisões automatizadas: o art. 20 da LGPD legitima ações para impugnar negativas de crédito, seguro, emprego ou benefícios decididas por sistemas opacos, com pedido de explicabilidade.
• Superendividamento e insolvência civil: a Lei 14.181/2021 ganha leitura ampliada quando o endividamento decorre de oferta personalizada por algoritmos de marketing preditivo, abrindo espaço para revisão judicial das obrigações.
• Responsabilidade civil: viés discriminatório em sistemas automatizados pode configurar ato ilícito (arts. 186 e 927, CC), com possibilidade de dano moral coletivo quando atinge grupos vulneráveis.
• Contratos eletrônicos e termos de uso: cláusulas que autorizem tratamento amplo de dados podem ser declaradas abusivas (art. 51, CDC) por violarem o dever de informação e a boa-fé objetiva.
• Tutela coletiva: Ministério Público, Defensoria e associações dispõem de instrumentos para questionar sistemas que produzem discriminação estrutural em escala.

O que observar

O debate brasileiro ainda carece de consolidação jurisprudencial sobre o alcance do direito à revisão previsto no art. 20 da LGPD, especialmente após o veto presidencial à exigência expressa de revisão humana, ponto que segue sendo reconstruído pela doutrina e pela atuação da ANPD. A tramitação do PL 2.338/2023, que propõe o marco legal da inteligência artificial, deve definir parâmetros mais específicos de transparência, auditoria e responsabilidade objetiva por sistemas de alto risco.

Profissionais do Direito Civil precisarão dominar não apenas a dogmática contratual e da responsabilidade civil, mas também conceitos técnicos — explicabilidade, fairness, dados sintéticos, machine learning supervisionado — para formular pedidos e produzir prova. A reconstrução civilista a partir da dignidade da pessoa humana não é retórica: é a resposta metodológica disponível para impedir que assimetrias informacionais e concentração de poder algorítmico se convertam em novas formas de exclusão jurídica.