Ser humano na era da neurociência e da inteligência artificial implica explorar cuidadosamente os pontos de intersecção da complexidade, onde ideias válidas se encontram, no entanto, em tensão, revelando subtilezas e desafios que não devem ser ignorados. Cada página expressa a(s) tensão(ões) existente(s) entre as ideias e no seio de cada tema, que emergiram nas discussões coletivas, e é depois complementada por reflexões dos investigadores da rede NHNAI.
Complexidade na Saúde #3: Melhorar os cuidados de saúde e a medicina sem comprometer a autonomia e a capacidade de decisão dos profissionais
Os participantes reconhecem, em grande medida, que as tecnologias da saúde (incluindo a IA) podem apoiar os profissionais de saúde na tomada de decisões médicas (podendo até ter um desempenho superior em algumas tarefas). Da mesma forma, salientam que a automatização de certas tarefas pode proporcionar mais tempo para as dimensões humanas da prestação de cuidados e dos cuidados de saúde (por exemplo, com robôs de assistência). Alguns participantes também salientam que a IA e as tecnologias digitais podem facilitar o acesso aos cuidados de saúde e à informação relacionada com a saúde, nomeadamente no que diz respeito aos cuidados preventivos e à prevenção (especialmente em áreas mais isoladas ou mais pobres). Surge também a ideia de que as tecnologias digitais podem melhorar a formação médica (por exemplo, com realidade virtual ou aumentada).
No entanto, é também amplamente consensual nos debates que a IA e as tecnologias da saúde devem contribuir para um sistema de saúde mais humanizado. Em geral, as máquinas não devem substituir os seres humanos. Em particular, as tarefas relacionadas com a tomada de decisões médicas, a comunicação e a prestação de cuidados devem continuar a ser da competência humana. Embora seja verdade que os profissionais de saúde e os prestadores de cuidados muitas vezes carecem de tempo e se encontram exaustos, e que os sistemas de saúde estão sob grande pressão, as tecnologias de IA podem não constituir a resposta certa ou principal para estas questões fundamentais.
Os participantes insistem também no facto de que os profissionais de saúde e os prestadores de cuidados devem continuar a ser responsáveis pela tomada de decisões e que a dependência excessiva dessas tecnologias pode revelar-se prejudicial a longo prazo (desqualificação, perda de resiliência em caso de indisponibilidade das tecnologias). É importante referir que a responsabilidade (moral) pela tomada de decisões médicas deve permanecer nas mãos dos seres humanos.
Perspetivas da rede académica da NHNAI:
A. Cooperação, independência e responsabilidade
Com base nas reflexões de Fernand Doridot (professor associado de ética, filosofia das ciências e das tecnologias (ICAM – Universidade Católica de Lille, ETHICS EA7440, França) e Brian P. Green (professor de ética da IA, diretor de ética tecnológica no Markkula Center for Applied Ethics (Universidade de Santa Clara, EUA)
Os perigos do viés de automação e da desqualificação
Apesar das suas vantagens na área da saúde, a IA também acarreta riscos, tais como a «desqualificação» dos profissionais. Ao habituarem-se demasiado a depender da IA, os médicos e enfermeiros correm o risco de perder competências importantes. Natali et al. (2025) salientam que os clínicos podem passar de um julgamento clínico independente para uma função de supervisão na validação dos resultados algorítmicos, o que leva a uma erosão das competências técnicas e cognitivas e diminui a sua confiança e capacidade de questionar as recomendações da IA[1]. Esta confiança excessiva nos resultados produzidos pela IA traduz-se, de forma mais geral, num «viés de automatização», em que as recomendações emitidas pela IA são consideradas mais fiáveis, mesmo em casos em que a intervenção humana seria mais relevante.[2] Esta situação pode levar os profissionais de saúde a cometer erros graves, seguindo recomendações enganosas ou negligenciando elementos importantes devido à falta de orientação da máquina. [3] A resiliência global do sistema de saúde poderia, assim, ser enfraquecida pela incapacidade progressiva dos profissionais de lidar de forma autónoma com situações complexas ou inéditas, tais como patologias raras ou avarias do sistema de IA.
Os intervenientes e profissionais envolvidos devem, por conseguinte, conhecer os limites da tecnologia que utilizam, devendo ser incluído (na sua formação) um ceticismo saudável em relação a essa tecnologia.
Atribuição de responsabilidades
Apesar dos benefícios trazidos pela IA em termos de análise de dados e diagnóstico, a automatização também levanta questões éticas importantes, tais como a necessidade de os profissionais humanos continuarem a assumir a responsabilidade pelas decisões médicas e a ponderar as suas implicações morais, especialmente nos casos em que há impacto direto na vida dos doentes. [4]
No entanto, esta importância de preservar a responsabilidade humana não vem isenta de dificuldades. Por exemplo, os sistemas automatizados cometerão erros e os humanos «responsáveis» por essas máquinas poderão facilmente ser transformados em bodes expiatórios a quem atribuir a culpa. O «erro do operador» é frequentemente a desculpa de primeira escolha quando uma máquina falha, mesmo que a verdadeira culpa resida num sistema de interações extremamente complexo que não se poderia razoavelmente esperar que um indivíduo compreendesse ou pelo qual fosse responsável. Além disso, opor-se às máquinas pode significar assumir um risco que os profissionais de saúde poderão tornar-se cada vez mais relutantes em assumir. Especialmente com o já referido viés de automatização, que provavelmente irá interferir e enfraquecer os prestadores de cuidados de saúde, os seus pacientes e outros. Estes intervenientes podem ser levados a ver simplesmente uma recomendação do computador como algo que não podem contestar e, se se opuserem e estiverem errados, serão responsabilizados e possivelmente punidos.
Será, portanto, fundamental reconhecer o trabalho que é genuinamente realizado pelas máquinas. É problemático que os profissionais de saúde assumam toda a culpa quando algo corre mal. Tornar-se-iam «bodes expiatórios» de sistemas complexos pelos quais não se pode razoavelmente responsabilizar nenhum indivíduo.
Independência de julgamento e a IA como complemento
É apenas uma questão de tempo até que os sistemas de IA se tornem prática comum em muitas áreas da medicina. Recorrer a algo que não corresponda aos padrões médicos seria considerado um retrocesso ou mesmo motivo para acusação de negligência médica. Não devemos pensar que a IA está a chegar como uma imposição estranha ao campo da medicina. Pelo contrário, deve chegar porque existem certos problemas que a IA consegue resolver melhor. Mas isso deve ser avaliado a partir das próprias práticas de saúde, pelos próprios profissionais.
Devemos, portanto, salientar a necessidade de os profissionais de saúde receberem formação para exercerem um julgamento independente e para terem a capacidade de se afastar das decisões da IA, se necessário. A integridade dos cuidados de saúde só pode ser mantida se a IA complementar, mas não substituir completamente, a experiência humana.
[1] Natali, C., Marconi, L., Dias Duran, L.D. et al. AI-induced Deskilling in Medicine: A Mixed-Method Review and Research Agenda for Healthcare and Beyond. Artif Intell Rev 58, 356 (2025). https://doi.org/10.1007/s10462-025-11352-1
[2] Skitka, L. J., Mosier, K., & Burdick, M. (1999). Does automation bias decision-making?. International Journal of Human-Computer Studies, 51(5), 991–1006.
[3] Parasuraman, R., & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human Factors, 39(2), 230–253.
[4] Floridi, L., & Cowls, J. (2019). A unified framework of five principles for AI in society. Harvard Data Science Review, 1(1).
