INTELIGÊNCIA ARTIFICIAL EXPLICÁVEL (XAI) EM SAÚDE DIGITAL: TENSÕES ENTRE TRANSPARÊNCIA ALGORÍTMICA, PROPRIEDADE INTELECTUAL E ÉTICA DO CUIDADO

Resumo

A incorporação da inteligência artificial (IA) na saúde digital tem ampliado a eficiência e a capacidade analítica dos sistemas de cuidado, mas também intensificado desafios éticos, jurídicos e sociais associados à opacidade algorítmica. Este artigo tem como objetivo analisar criticamente as tensões entre transparência algorítmica, propriedade intelectual e ética do cuidado no contexto da Inteligência Artificial Explicável (XAI) aplicada à saúde digital. Trata-se de um ensaio teórico crítico, fundamentado em revisão integrativa da literatura científica e análise documental de marcos regulatórios nacionais e internacionais publicados entre 2021 e 2026. A abordagem adotada é interdisciplinar, articulando contribuições da saúde coletiva, da bioética, do direito e dos estudos em ciência e tecnologia. Os resultados indicam que a XAI é condição central para a confiança clínica, a segurança do paciente e a autonomia profissional, especialmente em aplicações de alto risco, ao mesmo tempo em que evidencia conflitos estruturais com regimes de proteção da propriedade intelectual, notadamente o uso de segredos comerciais. Conclui-se que a adoção de mecanismos intermediários de governança, como transparência em camadas, auditorias independentes e supervisão humana significativa, é essencial para conciliar inovação tecnológica, proteção de direitos fundamentais e integridade ética do cuidado em saúde.