Ser humano na era da neurociência e da inteligência artificial implica explorar cuidadosamente os pontos de intersecção da complexidade, onde ideias válidas se encontram, no entanto, em tensão, revelando subtilezas e desafios que não devem ser ignorados. Cada página expressa a(s) tensão(ões) existente(s) entre as ideias e no seio de cada tema, que emergiram nas discussões coletivas, e é depois complementada por reflexões dos investigadores da rede NHNAI.
Complexidade na Saúde #6: Regulamentar as tecnologias e preservar a privacidade e a integridade das pessoas sem entravar a inovação médica
Os participantes reconhecem, em grande medida, os benefícios que se podem obter com o desenvolvimento de tecnologias de IA e de saúde nos cuidados de saúde e na medicina, bem como no domínio do aprimoramento humano (melhoria na tomada de decisões médicas, automatização de certas tarefas, maior acesso aos cuidados de saúde e à informação relacionada com a saúde, aprimoramento das capacidades físicas e mentais, …).
Ao mesmo tempo, os participantes também se preocupam com o risco de que informações de saúde sensíveis sejam recolhidas para fins não médicos. Os dados de saúde recolhidos por IA ou ferramentas digitais devem servir apenas para fins médicos e de cuidados de saúde. As soluções digitais não devem implicar a intromissão de organizações externas (como companhias de seguros).
Além disso, com a convergência da NS e da IA, os dados poderiam ser utilizados para aumentar a capacidade de previsão do comportamento e do pensamento das pessoas, bem como as possibilidades de manipulação cognitiva. Por conseguinte, a privacidade mental deve ser protegida.
Isto levanta a difícil questão da regulamentação. Tal como evocado nas discussões, a inovação pode ser prejudicada por uma regulamentação excessivamente rígida, e a segurança dos doentes comprometida por uma regulamentação excessivamente laxista. Então, como é que encontramos o equilíbrio certo entre incentivar a inovação e proteger os doentes?
Perspetivas da rede académica da NHNAI:
A possibilidade de utilizar dados de saúde para contribuir para o dispendioso financiamento da inovação na área da saúde é um tema de debate recorrente. Esta via poderá revelar-se interessante, desde que a proteção desses dados seja eficaz e que os mesmos sejam utilizados de forma anónima e com consentimento informado. No entanto, vários estudos documentaram casos em que a anonimização falhou, levando a um risco de reidentificação. [1] Também foi salientado que, sob o efeito de incentivos económicos, populações particularmente vulneráveis poderiam estar sujeitas a vários tipos de abuso.[2]
É geralmente reconhecido como muito importante que atores externos, tais como companhias de seguros, não possam aceder a dados de saúde. A confiança pública poderia ser seriamente comprometida pela utilização de dados de saúde por organizações privadas para fins comerciais ou discriminatórios. A utilização de dados de saúde apenas para fins médicos explícitos pretende ser garantida pelo regulamento RGPD da UE, que impõe restrições claras ao acesso e à utilização de dados pessoais para este fim.[3]
A convergência da IA e da neurotecnologia abre a porta à previsão ou manipulação do comportamento cognitivo, representando assim novas ameaças à privacidade cognitiva e à liberdade mental. Vários autores insistem, por isso, na importância de proteger a «privacidade da mente», nomeadamente através de regulamentação.[4]
Perante todos estes desafios, ferramentas como a blockchain são por vezes mencionadas como capazes de permitir aos indivíduos controlar o acesso aos seus dados de saúde, bem como a sua eventual disponibilização para fins de inovação, desde que se desenvolva, em paralelo, uma regulamentação voluntária e rigorosa.
Devido aos riscos envolvidos em termos de segurança, eficácia e utilização ética, é imperativo que a inovação nas tecnologias de IA e de cuidados de saúde seja acompanhada por quadros regulamentares sólidos. Espera-se, portanto, que o setor dos cuidados de saúde consiga colmatar a lacuna entre inovação e regulamentação. Uma regulamentação excessiva, no entanto, poderia ter o efeito de sufocar a inovação, desencorajar o investimento em novas tecnologias e retardar o desenvolvimento de avanços que salvam vidas. Perante um panorama tecnológico na área da saúde em rápida mudança, é, portanto, crucial desenvolver uma abordagem regulatória equilibrada que seja simultaneamente flexível e adaptável. Alguns modelos regulamentares adaptativos foram propostos por investigadores, nos quais o desenvolvimento tecnológico e a supervisão evoluem simultaneamente, permitindo espaço para a inovação sem afetar a responsabilização. Desta forma, podemos esperar evitar as duas armadilhas de impedir o progresso ou de proteger insuficientemente os doentes face a certos danos potenciais (Bouderhem, 2024; Zhou & Gattinger, 2024).[5]
[1] Ohm, P. (2010). Broken promises of privacy: Responding to the surprising failure of anonymization. UCLA Law Review, 57(6), 1701-1777.
[2] Vayena, E., & Tasioulas, J. (2016). The ethics of personalized medicine: New challenges and opportunities. Journal of Medical Ethics, 42(8), 451-454.
[3] Floridi, L., & Taddeo, M. (2016). What is data ethics? Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 374(2083), 20160360.
[4] Ienca, M., & Andorno, R. (2017). Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy, 13(1), 5.
[5] Bouderhem, R. (2024). Shaping the future of AI in healthcare through ethics and governance. Humanities and Social Sciences Communications, 11(416). Zhou, K., & Gattinger, G. (2024). The Evolving Regulatory Paradigm of AI in MedTech: A Review of Perspectives and Where We Are Today. Therapeutic Innovation & Regulatory Science, 58(456–464).
