A opacidade algorítmica nas negativas de cobertura da saúde
1. Introdução
A saúde suplementar brasileira, responsável por aproximadamente 53 milhões de beneficiários, vivencia tensões crônicas evidenciadas pelas recusas de tratamento. Dados do Painel de Reclamações da ANS (janeiro/26) revelam que o tema "Cobertura" representa 78,01% das queixas, destacando-se entraves nas "Regras para Acesso" (31,67%) e no "Rol de Procedimentos" (20,67%)1.
Essa insatisfação deságua na jurisdicionalização: o STJ já apontou "plano de saúde" como o sexto assunto com maior incidência na Corte, somando mais de 36 mil processos em um recorte de cinco anos (2015 a 2020)2. A disputa ganhou contornos complexos com a lei 14.454/22, que reafirmou o caráter exemplificativo do Rol. Contudo, para processar milhares de solicitações extrarrol, as operadoras adotaram a IA na triagem de sinistros.
A delegação desse processo decisório a sistemas automatizados fez emergir a opacidade algorítmica. Ao transpor os riscos da tecnologia para a área médica, a doutrina jurídica especializada adverte para o intricado "problema da caixa preta" (black box problem), conceito originário de Frank Pasquale3.
Atualmente, beneficiários recebem recusas padronizadas sem saberem que foram geradas por algoritmos. Essa invisibilidade impede a contestação técnica e fere o consentimento informado. Diante do vácuo regulatório nacional, este artigo questiona: como a opacidade algorítmica afeta a autonomia do paciente e como marcos da OMS e Europa podem orientar o Brasil? Objetiva-se analisar a "caixa preta" e compará-la às tendências globais. Adotou-se o método dedutivo para resguardar a dignidade na "medicina centrada na pessoa", onde o paciente assume protagonismo deliberativo.
2. A opacidade algorítmica e a violação da autonomia do paciente na saúde suplementar
A automação na saúde introduz a "caixa preta", onde o processamento de recusas permanece oculto à compreensão humana. Bioeticamente, isso gera uma tripla opacidade: a epistêmica (complexidade técnica incompreensível até para auditores), a pela não revelação (omissão do uso da IA ao paciente) e a explicativa (falta de tradução da decisão algorítmica para o leigo)4.
Essa invisibilidade fere o respeito à autonomia, atual "padrão ouro" nas relações clínicas. A consolidação dessa autonomia alicerça-se na transição para a medicina centrada na pessoa. Conforme Moira Stewart, o modelo focado na patologia deve ceder à compreensão da individualidade e contexto de vida do enfermo5.
A automação obscura aniquila essa dimensão: ao delegar coberturas a algoritmos focados em custo-efetividade, reduz-se o paciente a dados estatísticos. Quando a operadora impõe recusas opacas, subtrai a capacidade de contestação e rompe o processo informativo-decisório contínuo. Agravar a vulnerabilidade do adoecimento por meio da automação agride o dever de informação. Contudo, o excesso de dados técnicos também gera a "hiperinformação", que atua como desinformação se ininteligível ao leigo6.
Por fim, a boa-fé objetiva exige lealdade recíproca. As operadoras devem transparência sobre critérios algorítmicos, preservando a autodeterminação do beneficiário.
3. A necessária resposta regulatória: Uma análise comparada entre o vácuo da ANS, as diretrizes da OMS e o AI Act europeu (2024)
A ANS carece de marcos para delimitar eticamente a IA na auditoria assistencial, destoando da governança global. A OMS (2021 e 2024) adverte que delegar decisões à IA solapa a autonomia humana, exigindo que os sistemas sejam auditáveis e fomentem a accountability7.
A União Europeia aprovou o pioneiro Artificial Intelligence Act (regulamento UE 2024/1689), adotando uma regulação baseada em risco. Sistemas de triagem médica e avaliação em seguros de saúde são "de alto risco"8. O art. 14 do regulamento (UE) 2024/1689 exige estrita "supervisão humana" (human oversight), garantindo que o auditor médico não seja um mero espectador do algoritmo, mas tenha a capacidade técnica e a autoridade inquestionável para ignorar, anular ou reverter a decisão da IA (human-in-the-loop)9.
A lei europeia vai além da mera classificação e impõe deveres operacionais rígidos ausentes na regulação brasileira. A regulamentação alerta contra o "enviesamento da automatização" (automation bias)10 e exige, em seu art. 27, uma "avaliação de impacto sobre direitos fundamentais" prévia à implementação da tecnologia11.
4. Considerações finais
Conclui-se que o Direito brasileiro precisa urgentemente espelhar-se nessas diretrizes globais. Diante do vácuo normativo, é premente que a ANS edite uma resolução normativa específica, inspirada no art. 27 do regulamento europeu, exigindo uma rigorosa avaliação de impacto e impondo o compliance algorítmico às operadoras. Deve-se garantir aos pacientes o direito inalienável à explicação e à revisão humana com real poder de veto (anulação) nas negativas de cobertura.
A imposição de limites éticos à IA não visa entravar a inovação, mas garantir que a distribuição de recursos atenda à justiça distributiva e à equidade. Só assim efetiva-se a Medicina Centrada na Pessoa, impedindo que a eficiência corporativa subjugue o direito à vida.