Ser humano na era da neurociência e da inteligência artificial implica explorar cuidadosamente os pontos de intersecção da complexidade, onde ideias válidas se encontram, no entanto, em tensão, revelando subtilezas e desafios que não devem ser ignorados. Cada página expressa a(s) tensão(ões) existente(s) entre as ideias e no seio de cada tema, que emergiram nas discussões coletivas, e é depois complementada por reflexões dos investigadores da rede NHNAI.
Complexidade na Saúde #1: Distinguir entre cuidados, melhorias legítimas e práticas desumanizantes
Alguns participantes nos debates salientaram que é da natureza do ser humano procurar constantemente progredir e melhorar. Os avanços na IA e na neurociência no domínio da saúde podem permitir-nos aumentar as nossas capacidades físicas e mentais (nomeadamente com próteses neurológicas ou interfaces cérebro-máquina implantadas). Estas tecnologias também poderiam prevenir a perda de capacidades associada ao envelhecimento. Práticas semelhantes (com próteses da anca ou articulares) já são amplamente aceites na sociedade. Podemos, portanto, imaginar que possibilidades mais recentes ligadas à IA e à neurociência (como os implantes cerebrais) também possam, eventualmente, tornar-se aceitáveis.
No entanto, as discussões revelam também uma preocupação quanto às motivações e ao significado de tais práticas de aumento. Embora pareça aceitável para muitos participantes utilizar tecnologias de saúde num contexto curativo (para combater incapacidades ou doenças degenerativas), as práticas que visam aumentos ilimitados da longevidade ou da capacidade cerebral, ou mesmo aplicações militares, são vistas com mais cautela e são frequentemente alvo de críticas.
É também dada ênfase ao risco de sobrevalorizar o desempenho, a eficiência e a produtividade, com um foco excessivo apenas em aspetos mensuráveis e quantificáveis, em detrimento da consideração de questões de significado e valores, dos sentimentos das pessoas e das suas experiências de vida.
Assim, por exemplo, não é claro que a resposta correta à fadiga grave ou a uma sensação de cansaço seja aumentar a resistência através de tecnologias de saúde (como medicamentos ou implantes cerebrais). Temos de considerar a possibilidade de que tal fadiga ou cansaço possa também sinalizar problemas mais profundos na vida de uma pessoa. Da mesma forma, as discussões levam-nos a questionar a própria ideia de aumento por meio da tecnologia, que poderia, em alguns casos, degenerar em dependência da tecnologia e perda de competência (tornar-me-ei realmente mais «poderoso» se um implante cerebral me tornar capaz de um maior desempenho cognitivo? O que acontece se eu já não tiver acesso a esta tecnologia, ou se ela avariar?)
A um nível mais global, algumas contribuições criticam a ideia de um desejo sistemático de ultrapassar e rejeitar todas as formas de limite, um desejo que poderia ir tão longe a ponto de ameaçar a nossa própria humanidade. Certos limites e vulnerabilidades (como ser afetável e, portanto, suscetível ao sofrimento e à morte) estão no cerne do que significa ser humano.
Perspetivas da rede académica da NHNAI:
A. Sobre o aprimoramento humano
Meios sem precedentes de melhoramento humano (amplificadores cognitivos, neuropróteses, tecnologias de regulação emocional, etc.) parecem estar no horizonte. O seu potencial para melhorar a qualidade de vida e alargar as capacidades humanas para além dos limites naturais tem sido há muito destacado.[1] No entanto, o desenvolvimento destas tecnologias é acompanhado por preocupações legítimas. Em particular, a sua ampla disponibilidade poderia criar expectativas irrealistas ou fomentar uma cultura em que os indivíduos estejam sob constante «pressão para melhorar» a fim de acompanhar as normas sociais. A longo prazo, isto poderia agravar as desigualdades entre aqueles a quem estas tecnologias são financeiramente acessíveis e aqueles a quem não são, abrindo caminho para uma nova forma de «elitismo biológico».[2] (Sandel, 2007). É também de recear que valores sociais importantes, como a aceitação da vulnerabilidade e da imperfeição humanas, frequentemente vistos como aspetos importantes da nossa humanidade comum, possam ser minados pela busca constante de melhorias tecnológicas. É, portanto, imperativo que sejam implementados quadros éticos exigentes para incentivar o uso responsável das tecnologias e para garantir que o potencial aprimoramento dos indivíduos permaneça estritamente uma questão de escolha, oferecido por vezes como uma oportunidade razoável, mas nunca se torne uma obrigação.
B. Reflexões adicionais sobre a vulnerabilidade e a humanidade
Compreender melhor a vulnerabilidade com David Doat, professor associado de filosofia na Universidade Católica de Lille, titular da ETH+ Chair in Ethics, Technology and Humanities:[3]
A vulnerabilidade não é fraqueza nem pobreza. Nem pode ser reduzida à velhice, à deficiência ou à doença. A origem da palavra vem do latim vulnus, que significa «ferida». Mas, mais uma vez, é preciso distinguir entre «vulnerabilidade» e «vulneração». A primeira refere-se à possibilidade de ser afetado na sua estrutura física ou psicológica; a segunda refere-se ao estado que se segue a uma lesão. É importante fazer a distinção. Durante um encontro romântico, por exemplo, os amantes encontram-se num estado de vulnerabilidade ao exporem-se um ao outro, permitindo-se ser afetados pela pessoa amada, mas nenhum dos dois fica ferido. A vulnerabilidade pode ser uma oportunidade. Mas esquecemo-nos disso. Muitas vezes, as pessoas vulneráveis são associadas aos idosos, aos dependentes, aos deficientes… De um ponto de vista antropológico, somos todos vulneráveis e expostos a riscos mais ou menos significativos, mas existem vulnerabilidades específicas de natureza social, económica, cultural ou de saúde. Uma pessoa idosa num lar de idosos é mais vulnerável à Covid-19 do que um jovem. Isto não significa, no entanto, que a vá contrair e morrer por causa dela. O desafio da educação e do apoio não é apenas olhar para o lado catastrófico. Temos também de considerar as situações em que algumas pessoas se encontram e que podem ser convertidas de forma positiva. Temos algo a fazer com e dentro das nossas vulnerabilidades.
Desconstruindo o ideal moderno de um ser humano todo-poderoso e totalmente autónomo, com Chiara Pesaresi, professora associada de filosofia na Universidade Católica de Lyon e diretora científica do Vulnerabilities University Chair:[4]
É verdade que o campo semântico da vulnerabilidade remete tradicionalmente para representações depreciativas, evocando ideias de menor resistência e de fracasso. Reconhecer-se como vulnerável significa desafiar as imaginações sociais modernas e pós-modernas centradas nas ideias de progresso, domínio e desempenho, e repensar a nossa lógica de ação individual e coletiva à luz da fragilidade das nossas vidas, das nossas instituições e até do nosso ambiente.
Basicamente, trata-se de desconstruir o ideal moderno de um ser humano completamente autónomo, livre de limites e também da dependência dos outros. Esta visão do homem como capaz de autodeterminação absoluta levou a uma redução da vulnerabilidade e das suas manifestações a defeitos contingentes, que devem ser corrigidos, reparados ou superados a todo o custo (a expressão «design yourself», lema do movimento ciborgue, ilustra bem este princípio).
“No entanto, isto não significa glorificar a vulnerabilidade ou negar a sua natureza desafiante, crítica e até trágica: pelo contrário, reconhecer a nossa própria vulnerabilidade faz sempre parte de uma dialética de consentimento e resistência, de aceitação e adaptação criativa. Revela também que nunca somos seres isolados, perfeitamente independentes e autónomos. Emmanuel Levinas estava convencido de que a subjetividade só pode crescer no encontro com o outro, onde a vulnerabilidade se apresenta como a nossa característica comum: pois é no rosto dele que reconheço tanto a sua nudez, a sua extrema vulnerabilidade, como a minha própria.”
[1] Bostrom, N., & Roache, R. (2007). Ethical Issues in Human Enhancement. In J. Ryberg, T. Petersen, & C. Wolf (Eds.), New Waves in Applied Ethics, Palgrave Macmillan, pp. 120-152.
[2] Sandel, M. J. (2007). The Case Against Perfection: Ethics in the Age of Genetic Engineering. Cambridge, Harvard University Press.
[3] Extract from David Doat, 2021, « La vulnérabilité peut être une chance. Mais on l’oublie », Interview by Brigitte Bègue in Actualités sociales hebdomadaires (N.3199 5 mars 2021), pp.38-39 (our transaltion), https://www.ash.tm.fr/hebdo/3199/entretien/la-vulnerabilite-peut-etre-une-chance-mais-on-loublie-634607.php
[4] Extract from the opinion piece “Il est urgent de reconnaître la vulnérabilité dans nos vies”, from Chiara Pesaresi, published in La Vie on May 10, 2022, https://www.lavie.fr/ma-vie/sante-bien-etre/il-est-urgent-de-reconnaitre-la-vulnerabilite-dans-nos-vies-82292.php
