Ser humano na era da neurociência e da inteligência artificial implica explorar cuidadosamente os pontos de intersecção da complexidade, onde ideias válidas se encontram, no entanto, em tensão, revelando subtilezas e desafios que não devem ser ignorados. Cada página expressa a(s) tensão(ões) existente(s) entre as ideias e no seio de cada tema, que emergiram nas discussões coletivas, e é posteriormente complementada por reflexões dos investigadores da rede NHNAI.
Complexidade na Saúde #5: Encontrar o equilíbrio certo entre inovação e segurança
Alguns participantes nos debates salientaram que é da natureza do ser humano procurar constantemente progredir e melhorar. Os participantes reconhecem também que os avanços na IA e na neurociência no domínio da saúde podem permitir-nos aumentar as nossas capacidades físicas e mentais (nomeadamente através de próteses neurológicas ou de interfaces cérebro-máquina implantadas). Estas tecnologias poderiam igualmente prevenir a perda de capacidades associada ao envelhecimento. Práticas semelhantes (com próteses da anca ou articulares) já são amplamente aceites na sociedade. Podemos, portanto, imaginar que possibilidades mais recentes ligadas à IA e à neurociência (como implantes cerebrais) também possam, eventualmente, tornar-se aceitáveis.
No entanto, as discussões também destacam riscos de dependência ou outros efeitos secundários, como alterações na personalidade ou comprometimento das capacidades de tomada de decisão.
É importante avaliar adequadamente o equilíbrio entre benefícios e riscos.
Perspetivas da rede académica da NHNAI:
Como sugere Brian P. Green, este nexo de complexidade, com a sua tensão entre um possível impulso dos seres humanos para se aperfeiçoarem e a necessidade afirmada de impor limites no que diz respeito ao aprimoramento médico ou neurológico, levanta questões profundas, tais como: Como sabemos quando um aprimoramento se justifica ou não? Quando é que uma intervenção nos torna mais humanos e quando é que uma intervenção nos torna menos humanos? Que papel desempenha a «naturalidade» nesta determinação, e o que é «natural» para os seres humanos?
Para ajudar a explorá-las, podemos recorrer primeiro a insights da neurociência, para depois aprofundar algumas questões éticas.
A. Um esclarecimento da neurociência
A maioria dos implantes médicos visa compensar um mecanismo específico que foi danificado por uma doença neurodegenerativa (por exemplo, a doença de Parkinson), mas revelou-se capaz de provocar uma desregulação em algum outro aspeto do nosso comportamento (dependência, impulsividade, perda de identidade…). Estas intervenções têm sido justificadas para compensar a perda de uma capacidade. A aplicação dos mesmos dispositivos de implantes cerebrais para melhorar certas capacidades é problemática, não só numa perspetiva ética de igualdade de acesso a estes meios, mas também porque minimiza a importância do esforço na aquisição da aprendizagem comportamental. Ignora o resto do corpo, com o qual o nosso cérebro interage plenamente e desenvolve as suas especificidades funcionais. O desenvolvimento destes implantes para deficiências motoras, como no caso de doentes tetraplégicos, é muito apelativo e é, sem dúvida, plenamente justificado. Mas considerar que outras capacidades cognitivas poderiam ser potenciadas através destes implantes, ignorando o corpo, vai contra o modus operandi do sistema nervoso. Empenhar-se nestes esforços corre o risco de levar o público em geral a acreditar que as nossas capacidades mentais/psicológicas funcionam como módulos independentes no cérebro, o que é exatamente o que a investigação atual em neurociências contradiz através das suas descobertas mais recentes. É, portanto, importante informar o público sobre como as neurociências demonstram a ligação intrínseca entre cérebro e corpo e que a aprendizagem e o desenvolvimento das nossas capacidades mentais e comportamentais exigem esforço (e podem acarretar frustração no processo). A visão de um cérebro com módulos definidos que gerem de forma independente certas funções cognitivas de alto nível é falsa. E promover artefactos neurotecnológicos com uma visão errada de como o sistema funciona equivale a propagar conhecimento científico falso.
B. Questões éticas
O desenvolvimento de tecnologias de melhoramento acarreta um risco real de dependência, tanto psicológica como fisiológica. A utilização contínua de dispositivos implantados de melhoramento cognitivo pode conduzir a dependências semelhantes às que já se observam hoje em dia com os estimulantes. A busca constante pela perfeição pode também esbater a distinção entre necessidade e desejo.[1] Tal dependência não só levanta questões médicas, como também suscita dúvidas sobre o seu impacto a longo prazo na autonomia e na saúde mental.
A modificação da função cerebral por dispositivos externos pode também conduzir a perturbações na personalidade e no comportamento. A memória ou a tomada de decisões melhoradas através de interfaces cérebro-máquina (ICM) poderiam ser acompanhadas por alterações na autopercepção, nas interações sociais, nos traços de personalidade, bem como na identidade em geral.[2] Estas alterações poderiam também afetar o pensamento crítico, o julgamento ou as respostas emocionais, com possíveis impactos na tomada de decisões, levantando assim questões éticas relativas à manutenção da responsabilidade pessoal dos indivíduos. [3]
É, portanto, extremamente importante condicionar o desenvolvimento de tecnologias de melhoramento a medidas de precaução e testes rigorosos, tanto a nível médico como psicológico/social. O desafio consiste em garantir que estas tecnologias não comprometam a autonomia e a identidade que se destinam a reforçar.
[1] Schermer, M. (2009). The mind and the machine: On the conceptual and moral implications of brain–machine interaction. NanoEthics, 3(3), 217-230.
[2] Ienca, M., & Andorno, R. (2017). Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy, 13(1).
[3] Fukushi, T., Sakura, O., & Koizumi, H. (Eds.). (2007). The ethics of brain-computer interfaces and human enhancement. Dordrecht: Springer.
