Inteligência artificial na medicina: quem protege o paciente quando o algoritmo também pode errar?

Por Dra. Patrícia de Souza Castro

A inteligência artificial deixou de pertencer ao campo da ficção científica e já faz parte da realidade dos serviços de saúde. Sistemas capazes de analisar exames, identificar padrões, estimar riscos, organizar dados clínicos e auxiliar médicos na tomada de decisões estão sendo incorporados progressivamente à assistência.

A promessa é relevante: diagnósticos mais rápidos, melhor utilização das informações disponíveis e redução de falhas humanas.

Mas existe uma pergunta que não pode ser ignorada: o que acontece quando o algoritmo erra — ou quando o profissional deixa de questioná-lo?

A resposta interessa não apenas aos médicos e hospitais. Trata-se de uma questão diretamente relacionada à segurança do paciente e, portanto, ao próprio direito à saúde.

Segurança do paciente não é apenas uma questão médica

Durante muito tempo, os eventos adversos ocorridos na assistência foram analisados principalmente a partir da conduta individual do profissional: houve negligência? Imprudência? Imperícia?

Essa análise continua juridicamente relevante, mas é insuficiente para explicar a complexidade dos serviços de saúde contemporâneos.

Um dano pode decorrer não apenas da atuação de determinado médico ou profissional, mas também de falhas de comunicação, protocolos inadequados, problemas de gestão, deficiência de equipamentos, sobrecarga das equipes, erros de sistemas informatizados ou da combinação de diversos fatores.

É justamente por isso que a segurança do paciente passou a ser tratada internacionalmente como problema sistêmico.

O conhecido relatório To Err is Human foi um marco ao demonstrar a dimensão dos eventos adversos evitáveis e ao deslocar parte da discussão do simples questionamento sobre “quem errou?” para uma pergunta muito mais importante: “por que o sistema permitiu que esse erro acontecesse?” 

No Brasil, a preocupação está presente em importantes normas sanitárias. A Portaria nº 529/2013 instituiu o Programa Nacional de Segurança do Paciente, enquanto a RDC nº 36/2013 da Anvisa estabeleceu ações voltadas à segurança do paciente e à gestão de riscos nos serviços de saúde. 

Portanto, prestar assistência segura não constitui mera recomendação de boas práticas. É uma obrigação que se relaciona diretamente à proteção da vida, da integridade física e do direito constitucional à saúde.

É nesse cenário que surge a inteligência artificial

A inteligência artificial acrescenta uma nova camada de complexidade ao problema.

Ela pode identificar padrões que seriam de difícil percepção humana, auxiliar diagnósticos, monitorar pacientes e organizar enormes volumes de informações. Utilizada adequadamente, pode se transformar em importante instrumento de segurança.

Mas a tecnologia também introduz riscos.

Algoritmos podem apresentar vieses, trabalhar com bases de dados inadequadas, produzir resultados incorretos ou simplesmente oferecer uma conclusão incompatível com as particularidades daquele paciente.

O perigo aumenta quando surge aquilo que podemos chamar de automatização acrítica da decisão clínica: o profissional recebe a resposta da máquina e deixa de exercer adequadamente seu próprio julgamento.

É nesse ponto que tecnologia, Direito e segurança do paciente se encontram.

Quando confiar demais na tecnologia também pode representar um risco

Um caso norte-americano ajuda a compreender o problema.

No caso Sampson v. HeartWise Health Systems Corporation, Joshua Sampson passou por uma avaliação cardiovascular. Informações clínicas foram processadas por um sistema que gerou uma avaliação de risco considerada normal. Com base naquele resultado, não houve aprofundamento da investigação.

Posteriormente, o paciente faleceu. A autópsia identificou cardiomiopatia hipertrófica.

A controvérsia judicial colocou em discussão justamente o papel desempenhado pela informação produzida pelo sistema na decisão clínica. Conforme o material analisado, a Suprema Corte do Alabama não decidiu definitivamente a responsabilidade dos envolvidos, mas permitiu o prosseguimento da ação. 

O caso contém uma lição importante.

A existência de uma recomendação tecnológica não elimina o dever de raciocínio clínico.

O algoritmo pode auxiliar o médico. Não deve substituir a análise individualizada do paciente.

E essa distinção começa a ganhar relevância jurídica também no Brasil.

O CFM estabeleceu limites para a utilização da IA

Em 2026, o Conselho Federal de Medicina editou a Resolução CFM nº 2.454/2026, estabelecendo parâmetros para a utilização da inteligência artificial na prática médica.

Um dos pontos fundamentais é justamente a preservação da decisão humana.

A inteligência artificial deve funcionar como instrumento de apoio, e não como substituta do julgamento clínico. O médico continua responsável pela avaliação crítica das informações produzidas pela tecnologia. 

Isso modifica, inclusive, a compreensão contemporânea do dever de cuidado.

Já não basta ao profissional saber utilizar determinada ferramenta tecnológica. Será cada vez mais importante conhecer suas limitações, compreender a possibilidade de vieses e verificar se a informação produzida é compatível com os demais elementos clínicos disponíveis.

A regulamentação também reforça outro aspecto fundamental: transparência.

O paciente deve ser informado sobre a utilização da inteligência artificial em seu cuidado, especialmente quando a tecnologia participa de processos relevantes de decisão. Essa informação se relaciona diretamente à autonomia e ao consentimento informado. 

Mas a responsabilidade não pode terminar no médico

Existe, entretanto, um risco jurídico que merece atenção.

Se a medicina contemporânea funciona dentro de sistemas cada vez mais complexos, não parece razoável que todo evento adverso envolvendo inteligência artificial seja automaticamente reduzido à procura de um único culpado.

Imagine um algoritmo inadequadamente treinado.

Ou um hospital que adquire uma tecnologia sem estabelecer protocolos para sua utilização.

Ou um sistema que não informa adequadamente suas limitações.

Ou ainda uma ferramenta que induz o profissional a confiar em determinada conclusão apresentada como segura.

Nessas situações, poderão coexistir diferentes níveis de responsabilidade: do profissional, da instituição de saúde, dos gestores e, dependendo das circunstâncias, também dos responsáveis pelo desenvolvimento ou fornecimento da tecnologia.

É justamente por isso que a discussão precisa avançar da simples responsabilização individual para a governança do risco tecnológico.

Governança clínica: prevenir antes de indenizar

O Direito costuma aparecer depois do dano.

O paciente sofre um evento adverso, procura o Judiciário e inicia-se a discussão sobre culpa, nexo causal e indenização.

Mas segurança do paciente exige raciocínio inverso: como impedir que o dano aconteça?

É nesse ponto que a governança clínica assume papel fundamental.

Governança significa estabelecer protocolos, supervisionar processos, avaliar resultados, identificar riscos, analisar eventos adversos e corrigir falhas antes que se repitam.

A relação pode ser representada de maneira simples:

a inteligência artificial fornece informações e apoio à decisão; a governança clínica estabelece os limites e controles de sua utilização; e a segurança do paciente deve ser o resultado final desse processo.

Esse é precisamente o modelo conceitual apresentado nos materiais analisados. Portanto, hospitais e demais serviços de saúde que incorporarem inteligência artificial precisarão pensar não apenas na eficiência tecnológica, mas também em questões como validação dos sistemas, rastreabilidade das decisões, auditoria, proteção de dados, treinamento das equipes, protocolos de utilização e mecanismos para comunicação de falhas.

O Direito precisa acompanhar a transformação da medicina

A inteligência artificial certamente continuará avançando.

Tentar impedir esse processo seria não apenas irrealista, mas provavelmente contraproducente. Essas ferramentas possuem enorme potencial para melhorar diagnósticos, organizar informações e contribuir para a redução de eventos adversos.

O problema não está simplesmente na existência da tecnologia.

Está na sua utilização sem governança, sem transparência e sem supervisão humana adequada.

Por isso, talvez a pergunta juridicamente mais importante para os próximos anos não seja apenas “quem responde quando a inteligência artificial erra?”.

Precisamos formular uma questão anterior:

quais mecanismos devem existir para impedir que um erro tecnológico chegue até o paciente?

A mudança parece pequena, mas representa uma transformação profunda.

Significa deslocar o Direito de uma atuação predominantemente reparatória para uma função também preventiva.

Em matéria de saúde, indenizar uma vítima depois de um dano grave jamais será equivalente a impedir que o dano ocorra.

A inteligência artificial pode ser uma poderosa aliada da medicina. Mas a inovação somente será legítima quando estiver subordinada àquilo que deve permanecer no centro de qualquer sistema de saúde: a proteção da vida, da dignidade e da segurança do paciente.

Autora: Patricia de Souza Castro

Advogada, Farmacêutica e Jornalista, com mais de 25 anos de experiência na área da Saúde. Graduada em Direito pela Universidade Cidade de São Paulo, OAB/SP nº 472.916. Pós-graduada em Direito Médico e da Saúde pela LEGALE e VERBO, pós-graduanda em Direito da Medicina pela Universidade de Coimbra e Mestranda em Direito Médico pela UNISA. Farmacêutica formada pela Universidade de Mogi das Cruzes, CRF/SP nº 24.191, especialista em Vigilância Sanitária e Epidemiológica e em Qualidade em Serviços de Saúde e Segurança do Paciente.

Servidora Pública Municipal, atua como Assessora Técnica e Jurídica na Secretaria Executiva de Atenção Hospitalar da Secretaria Municipal da Saúde de São Paulo. Membra da Comissão de Direito Médico e da Saúde da OAB, do Instituto Miguel Kfouri Neto – IMKN e da Comissão Nacional de Responsabilidade Civil da Associação Brasileira de Advogados – ABA. Atua na defesa de pacientes e profissionais de saúde, em processos ético-disciplinares, consultoria jurídica e demandas na área da saúde.

Todos os direitos reservados © 2024. Ordem Democrática. Desenvolvido por www.mindsetmkd.com.br