Algoritmos clínicos: quem decide quando a máquina sugere um diagnóstico?

Governança, ética e responsabilidade médica na era da inteligência artificial

A incorporação de algoritmos clínicos baseados em inteligência artificial (IA) e aprendizado de máquina vem transformando a prática médica em escala global. Sistemas capazes de analisar imagens, prever desfechos clínicos, sugerir diagnósticos e apoiar decisões terapêuticas já estão presentes em hospitais, operadoras de saúde e centros de pesquisa. No entanto, à medida que essas tecnologias ganham espaço no cuidado assistencial, surge uma questão central: quem, de fato, decide quando a máquina sugere um diagnóstico  e quem responde por essa decisão?

A discussão extrapola a dimensão tecnológica e avança para campos como governança clínica, ética médica, segurança do paciente e responsabilidade legal. Em um cenário cada vez mais orientado por dados, definir limites claros entre apoio à decisão e substituição do julgamento humano tornou-se um dos grandes desafios da saúde contemporânea.

O avanço dos algoritmos na prática clínica

Estudos indicam que algoritmos de IA já apresentam desempenho comparável e, em alguns casos, superior ao de especialistas humanos em tarefas específicas. Uma meta-análise publicada na The Lancet Digital Health mostrou que sistemas de IA para diagnóstico por imagem alcançaram níveis de desempenho diagnóstico semelhantes aos de médicos em áreas como radiologia, dermatologia e oftalmologia. No Brasil, soluções de apoio diagnóstico baseadas em IA já são utilizadas para triagem de retinopatia diabética, detecção de tuberculose em radiografias de tórax e análise automatizada de eletrocardiogramas no SUS.

Apesar desses avanços, a maioria dessas ferramentas atua como Clinical Decision Support Systems (CDSS), sistemas de apoio à decisão clínica, e não como dispositivos autônomos. Ou seja, o algoritmo sugere, mas a decisão final permanece, ao menos formalmente, sob responsabilidade do profissional de saúde.

Na prática, essa separação nem sempre é clara. À medida que algoritmos se tornam mais complexos, opacos e integrados aos fluxos assistenciais, cresce o risco de automação acrítica, fenômeno no qual profissionais tendem a aceitar recomendações algorítmicas sem questionamento adequado.

Pesquisas conduzidas pela Agência Europeia de Medicamentos (EMA) e pelo FDA mostram que, em ambientes de alta pressão assistencial, médicos podem confiar excessivamente em sistemas automatizados, especialmente quando estes apresentam altos índices de sensibilidade ou são validados por grandes instituições. Esse comportamento levanta preocupações éticas relevantes, sobretudo em contextos de erro algorítmico, viés de dados ou falhas de generalização para populações sub-representadas.

Governança algorítmica em saúde: quem regula a decisão da máquina?

Governança algorítmica refere-se ao conjunto de estruturas, normas e processos que garantem que sistemas de IA sejam desenvolvidos, implementados e utilizados de forma segura, ética e transparente. No campo da saúde, isso envolve múltiplos níveis:

• Governança técnica, com validação clínica contínua, monitoramento de desempenho e auditorias de viés;

• Governança institucional, definindo protocolos claros sobre quando e como algoritmos podem ser utilizados;

• Governança regulatória, com normas que estabelecem responsabilidades legais e critérios de certificação.

• 
  

No Brasil, a Anvisa já regula softwares como dispositivos médicos (SaMD), exigindo evidências de segurança e eficácia. No entanto, especialistas apontam que a regulação ainda carece de diretrizes mais específicas sobre aprendizado contínuo, revalidação pós-implementação e transparência dos modelos.

Internacionalmente, iniciativas como o AI Act da União Europeia e as diretrizes da Organização Mundial da Saúde (OMS) avançam no sentido de classificar algoritmos clínicos como sistemas de alto risco, exigindo níveis elevados de explicabilidade, rastreabilidade e supervisão humana obrigatória.

Responsabilidade médica e accountability algorítmica

Um dos pontos mais críticos do debate é a atribuição de responsabilidade em caso de erro. Se um médico segue a recomendação de um algoritmo e ocorre um dano ao paciente, quem responde? O profissional, a instituição ou o desenvolvedor da tecnologia?

Atualmente, o entendimento jurídico predominante — inclusive no Brasil — é que a responsabilidade permanece com o médico e a instituição de saúde, uma vez que o algoritmo é considerado ferramenta de apoio. Contudo, esse modelo vem sendo questionado à medida que sistemas se tornam mais autônomos e menos interpretáveis.

Especialistas defendem a adoção de modelos de responsabilidade compartilhada, nos quais desenvolvedores, fornecedores de tecnologia e organizações de saúde assumam corresponsabilidade, especialmente quando falhas decorrem de vieses de dados, treinamento inadequado ou limitações não explicitadas do sistema.

Do ponto de vista ético, cresce a demanda pelo chamado direito à explicação, ou seja, a capacidade de compreender, ainda que parcialmente, como um algoritmo chegou a determinada recomendação. Para pacientes, isso se traduz em consentimento informado mais robusto; para profissionais, em maior capacidade crítica frente às sugestões da máquina.

A OMS alerta que algoritmos treinados majoritariamente com dados de países de alta renda podem reproduzir desigualdades quando aplicados em contextos distintos, como sistemas públicos de saúde em países de renda média. Isso reforça a importância de dados locais, diversidade amostral e avaliação contínua de impacto clínico e social.

Caminhos para um uso responsável dos algoritmos clínicos

Para que algoritmos clínicos cumpram seu potencial sem comprometer a segurança e a ética do cuidado, especialistas apontam algumas diretrizes fundamentais:

• Manter a decisão clínica final sob supervisão humana qualificada;

• Investir em alfabetização digital e algorítmica de profissionais de saúde;

• Estabelecer comitês multidisciplinares de governança de IA nas instituições;

• Exigir transparência sobre limitações, vieses e contexto de uso dos sistemas;

• Garantir monitoramento pós-implementação e revisão contínua de desempenho.

• 
  

Mais do que substituir o julgamento médico, os algoritmos devem atuar como extensões da inteligência clínica humana, ampliando capacidades, reduzindo erros evitáveis e apoiando decisões mais informadas.

A pergunta “quem decide quando a máquina sugere um diagnóstico?” não tem uma resposta simples. Ela exige um equilíbrio delicado entre inovação tecnológica, responsabilidade médica e ética assistencial. Em um cenário cada vez mais orientado por dados e algoritmos, o desafio não está em frear a tecnologia, mas em governá-la de forma consciente, transparente e centrada no paciente. O futuro da medicina será, inevitavelmente, híbrido, e a qualidade desse futuro dependerá de como humanos e máquinas aprenderão a decidir juntos.

REFERÊNCIAS: World Health Organization – AI in health overview, Ministério da Saúde – Brasil, PROADI-SUS, Harvard Global Health Institute, Organização Mundial da Saúde