Direito à explicação em decisões algorítmicas de saúde: leitura constitucional

Operadoras de saúde no Brasil automatizam milhões de autorizações via inteligência artificial sem explicar os critérios de negativa. Um paciente consegue liminar em dias; a IA que produziu a negativa segue operando opacamente sobre milhares de beneficiários com os mesmos padrões indefiníveis. A questão não é apenas se um indivíduo tem direito ao tratamento — é se o algoritmo que nega cumpre o padrão constitucional de razoabilidade material e transparência que a Constituição de 1988, a LGPD e a jurisprudência do STJ já exigem.

Contexto

Na prática das operadoras de saúde privadas e gestores do SUS, a triagem de solicitações de medicamentos e procedimentos é majoritariamente mecanizada. Sistemas proprietários de inteligência artificial avaliam dezenas de milhões de autorizações por ano — frequentemente em poucos segundos — e emitem negativas padronizadas com referências vagas a "ausência de evidência clínica suficiente". A revisão humana, quando existe, é nominal e superficial. O modelo jurídico de controle, por sua vez, permanece reativo e individual: o paciente que consegue chegar ao Judiciário obtém tutela rápida (como ocorreu com liminares concedidas em dias), mas a decisão não toca o algoritmo, que segue operando com os mesmos critérios opacos sobre pacientes que não litigam.

Essa fragmentação se agrava porque diferentes tribunais estaduais exigem padrões variados das operadoras, gerando o que doutrinadores em direito digital denominam fragmentação regulatória — a operadora calibra seu sistema para o foro mais permissivo, garantindo inefetividade geográfica da tutela. Análogos obstáculos ocorrem em contenciosos internacionais: o processo movido contra a UnitedHealth nos EUA, proposto em 2023, só chegou à fase de produção de provas do algoritmo em 2026, dois anos e quatro meses depois — período em que a negativa automática se multiplicou.

A jurisprudência do STJ reconhece robustez no controle de saúde: nos Embargos de Divergência em Recurso Especial 1.886.929/SP e 1.889.704/SP (junho de 2022), fixou-se que o rol da Agência Nacional de Saúde Suplementar é, em regra, taxativo, mas comporta exceções quando demonstrada a pertinência técnica do tratamento. O problema não reside em insensibilidade jurisprudencial — reside em que essa jurisprudência atua sobre casos já judicializados, jamais sobre a estrutura sistemática que produz as negativas.

O que foi decidido

O texto propõe uma tese constitucional que não requer lei nova: decisões algorítmicas que afetem o acesso a prestações de saúde — independentemente de virem de operadora privada, gestor do SUS ou do próprio Judiciário em triagem processual — submetem-se a um direito constitucional à explicação inteligível. Esse direito não é uma inovação regulatória a ser conquistada no Congresso; está inscrito na Constituição de 1988 e demanda leitura sistemática de seus dispositivos.

A tese repousa em três pilares constitucionais lidos em conjunto:

• O artigo 5º, inciso LIV (devido processo legal), compreendido em sua dimensão substantiva conforme jurisprudência moderna (Ingo Sarlet e doutrina contemporânea);
• O artigo 196 (saúde como direito de todos);
• O artigo 1º, inciso III (dignidade da pessoa humana como fundamento da República).

Da leitura integrada desses dispositivos emerge uma exigência única: toda decisão que afete o acesso a prestações de saúde deve ser cognoscível e, portanto, passível de controle de razoabilidade material. O que não pode ser conhecido não pode ser controlado. A dignidade, em sua formulação objetiva, exige que o paciente seja tratado como sujeito de razões inteligíveis para si próprio — não como mero beneficiário de uma caixa-preta operada por máquina.

Além disso, a ausência de explicação inteligível não constitui mero vício formal; compromete a própria validade da decisão. Desloca-se, em favor do paciente lesado, o ônus de demonstrar a razoabilidade do critério empregado — invertendo o ônus que naturalmente caberia à operadora.

Base normativa e precedentes

• Art. 1º, III, CF/88 — Dignidade da pessoa humana como fundamento da República; exige tratamento do indivíduo como sujeito de razões, não instrumento opaco.

• Art. 5º, XIV, CF/88 — Devido processo legal substantivo; garante razoabilidade material de decisões que afetam direitos fundamentais.

• Art. 196, CF/88 — Saúde como direito de todos; funda pretensão a cuidado individualizado e cognoscível, não automatizado sem fundamento transparente.

• Lei 13.709/2018 (LGPD), arts. 11 e 20 — Submetem dados de saúde a tratamento especial; exigem transparência, consentimento informado e direito à explicação em decisões automatizadas que afetem direitos. A LGPD, embora anterior e dirigida à proteção de dados, confere conteúdo regulatório a exigência constitucional de cognoscibilidade.

• STJ, Embargos de Divergência em Recurso Especial 1.886.929/SP e 1.889.704/SP (junho de 2022) — Fixou caráter taxativo do rol ANS com exceções baseadas em pertinência técnica comprovada pelo prescritor; demonstra sensibilidade jurisprudencial ao direito material, mas não alcança a estrutura algorítmica subjacente.

• Jurisprudência consolidada sobre tutela individual do direito à saúde — Liminares são concedidas com frequência quando há prescrição de profissional habilitado e negativa injustificada; porém, a eficácia limitada dessas decisões sobre a IA subjacente é o problema estrutural.

Impacto prático

Para pacientes:

• Ainda que obtenham liminar individual, nenhuma garantia existe de que o algoritmo que os negou será ajustado; milhares de similares enfrentarão a mesma recusa, em diferentes territórios.
• O "direito à explicação" permite que questionem e controlem a base material da negativa, em vez de aceitar caixa-preta; inverte o ônus de prova em relação à operadora.
• Potencial redução do tempo para litigância se a explicação inadequada já invalida a decisão na origem, sem necessidade de aguardar liminar.

Para operadoras de saúde privadas:

• Obrigação de manter algoritmos auditáveis e capazes de explicar, em linguagem inteligível, os critérios que levaram à negativa — não basta resposta padrão.
• Revisão humana deixa de ser nominal; deve ser substantiva e documentada.
• Risco de modulação de efeitos ou determinação de implementação de sistema de explicabilidade, caso a tese ganhe força jurisprudencial.

Para gestores do SUS:

• Mesmas obrigações de transparência e explicabilidade em triagem automatizada de medicamentos, próteses e procedimentos.
• Eventual demanda para auditoria de algoritmos que já operam na decisão de coberturas.

Para o Judiciário:

• Pressão para desenvolver parâmetros substantivos de análise de explicabilidade algorítmica, não apenas de concessão de liminares.
• Necessidade de aprofundamento técnico ou perícia em IA médica para validar algoritmos em contencioso.

O que observar

Pontos abertos:

• A tese ancora-se em direito constitucional já existente, mas não há ainda jurisprudência consolidada do STF ou STJ que reconheça explicitamente o "direito à explicação algorítmica" como garantia autônoma. A leitura integrada proposta é hermeneuticamente plausível mas depende de acolhimento judicial.

• Operadoras podem argumentar que revelar totalmente a lógica do algoritmo compromete segredo comercial/proprietário. A resposta jurídica — que explicação inteligível não equivale a abertura do código-fonte, mas a justificação compreensível dos critérios — ainda não está pacificada em jurisprudência brasileira.

• A LGPD confere direito a explicação em decisões automatizadas (art. 20), mas seus mecanismos de enforcement (Autoridade Nacional de Proteção de Dados) e sua aplicação específica a saúde ainda estão em construção. Eventual conflito entre exigências da LGPD e da interpretação constitucional proposta é improvável, mas requer monitoramento.

Próximos passos:

• Eventual modulação de efeitos se jurisprudência acolher a tese: retroatividade limitada, prazos para adequação de operadoras e gestores, ou implementação gradual de auditoria algorítmica.

• Possível demanda por regulação técnica específica (normas ANSI, ISO ou diretrizes da ANPD) sobre o que constitui "explicação inteligível" em contexto de saúde — evitando vazio entre exigência constitucional e padrão operacional.

• Risco para operadoras que continuem negando acesso a protocolo padrão: invalidação não apenas da decisão, mas eventual condenação a indenização por dano moral ou à saúde, se a falta de explicação agravou o prejuízo do paciente.

Para profissionais da saúde:

• Advogados litigando saúde devem começar a questionar não apenas a negativa em si, mas a explicabilidade do algoritmo; é novo vetor de impugnação.

• Médicos prescritores podem exigir, antes de recorrer ao Judiciário, explicação formal da operadora sobre qual critério técnico fundamentou a negativa — transformando essa exigência em pressão pré-litigante.

• Consultores jurídicos de operadoras devem revisar arquitetura de IA; sistemas que não geram logs explicáveis de decisão enfrentarão litígio estrutural, não apenas casos isolados.