Ser humano na era da neurociência e da inteligência artificial implica explorar cuidadosamente os pontos de intersecção da complexidade, onde ideias válidas se encontram, no entanto, em tensão, revelando subtilezas e desafios que não devem ser ignorados. Cada página expressa a(s) tensão(ões) existente(s) entre as ideias e no seio de cada tema, que emergiram nas discussões coletivas, e é depois complementada por reflexões dos investigadores da rede NHNAI.
Complexidade transversal n.º 3: Tornarmo-nos mais eficientes sem pôr em risco a essência do que nos torna humanos
A ideia global-transversal «Confiar na tecnologia para melhorar as nossas vidas» destaca o facto de que a IA e as tecnologias de automação nos podem ajudar a poupar tempo para atividades essenciais, como as relações interpessoais ou qualquer outra coisa que promova o bem-estar humano, delegando tarefas tediosas às máquinas. Salienta também que os resultados da IA e da NS nos podem permitir melhorar as nossas capacidades físicas e mentais, aumentando o nosso desempenho e eficiência.
A ideia global-transversal “Buscar o autoaperfeiçoamento” expressa a afirmação de que é parte essencial da natureza humana buscar o autoaperfeiçoamento e o progresso, para maximizar a eficiência.
No entanto, (como adverte a ideia global-transversal “Preservar e intensificar o que nos torna humanos e promover o florescimento humano”), pode revelar-se destrutivo buscar de forma acrítica e sistemática o aumento e a melhoria da eficiência e do desempenho. Isso poderia levar ao sacrifício de aspetos essenciais para os seres humanos, tais como a autonomia, a criatividade e as relações, ou à negação de alguns limites e vulnerabilidades que estão no cerne do que significa ser humano (a mortalidade e a afetabilidade, por exemplo).
Perspetivas da rede académica da NHNAI:
A. Do ponto de vista da ciência cognitiva
Do ponto de vista da ciência cognitiva, a busca pelo autoaperfeiçoamento é algo que não existe, enquanto tal, no comportamento humano, se não estiver associada a uma ação orientada para um objetivo e inserida num contexto temporal alargado (por exemplo: queremos garantir o acesso a alimentos e água, abrigo, etc.). Esse objetivo tem um valor para o ser humano que o motiva (ou não) a aprofundar a aprendizagem e o desenvolvimento de determinadas capacidades e comportamentos. Os seres humanos pensam que maximizam a sua eficiência, mas, como Herbert Simon referiu, os seres humanos têm uma racionalidade limitada e, por isso, capacidades limitadas para maximizar verdadeiramente os processos de pensamento e, consequentemente, o comportamento. Os seres humanos tendem antes a «satisfazer» o seu comportamento de forma a ficarem satisfeitos o mais rapidamente possível, o que não é o mesmo que maximizar as suas capacidades. Este viés aplica-se também no que diz respeito à utilização da tecnologia e é fortemente potenciado com a IA. No entanto, como se tem demonstrado, reduz também drasticamente as possibilidades de aprendizagem da pessoa e, em última análise, a sua liberdade de ação no mundo. Assim, a busca pelo autoaperfeiçoamento deve estar em sintonia com a possibilidade de aumentar a aprendizagem (incorporada) e as possibilidades de aprendizagem futura (mantendo as portas abertas…), em vez de acelerar certos desempenhos que, mais adiante, privam o ser humano de aprender e, consequentemente, de se adaptar a condições em mudança (se considerarmos que a sua adaptabilidade depende em grande parte da sua capacidade de aprender novos comportamentos/pensamentos para enfrentar novos problemas).
B. Do ponto de vista filosófico, antropológico e teológico
Com base nas reflexões de Brian P. Green (professor de Ética da IA e diretor de Ética Tecnológica no Markkula Center for Applied Ethics (Universidade de Santa Clara, EUA)) e Nathanaël Laurent (professor associado de Filosofia da Biologia na Universidade de Namur, ESPHIN, Bélgica)
De um modo geral, a relação entre o nosso aperfeiçoamento e a preservação daquilo que nos torna humanos pode ser discutida no contexto de um livro publicado em março de 2024 pela Editions du Cerf (Paris), intitulado «O ser humano no centro do mundo: Por um humanismo do presente e do futuro. Contra os novos obscurantismos». Daniel Salvatore Schiffer resume uma das mensagens-chave[1]:
Em suma: a erosão insidiosa e gradual, se não a evaporação, do ser humano, em toda a sua complexidade antropológica (para utilizar um conceito-chave na construção filosófico-sociológica de Edgar Morin), em benefício de um mundo que é, com demasiada frequência, alienado, diretivo e redutor, É um totalitarismo que se ignora a si próprio ou não diz o seu nome e, assim, face a um pensamento cada vez mais maniqueísta, avança mascarado, astuto e silencioso, mas tanto mais perigoso para a liberdade da mente, da palavra e do pensamento, se não da consciência!
Esta evaporação do que significa ser humano é altamente ameaçadora. De facto, não podemos saber o que tem valor em nós se não soubermos o que e quem somos.
O cerne da nossa natureza humana pode ser interpretado biblicamente como amor, porque fomos criados à imagem de um Deus que é amor (1 João 4:8) e que nos ordena que amemos (Lev. 19:18, Deut. 6:4-5, Mateus 22:35–40, Marcos 12:29–33, Lucas 10:27) — até mesmo os nossos inimigos (Mateus 5:43-44) — e, por meio desse amor, tornamo-nos mais plenamente humanos e divinos. No entanto, desde o primeiro capítulo do Evangelho de João, sabemos também que Deus é Logos, palavra e razão, e que, portanto, o universo é racional, significativo e fundamentado na mais profunda sabedoria.
Se, então, temos uma natureza dual (pelo menos dual, se não muito mais) como criaturas amorosas e lógicas, a IA representa uma oportunidade e uma ameaça para nós nestas duas áreas fundamentais. Podemos usar a IA para nos ajudar a aprender novas verdades e adquirir nova sabedoria sobre o universo, para cuidarmos melhor uns dos outros e construirmos a paz em todo o mundo. Ou podemos abusar da IA para substituir as nossas capacidades de pensamento, deixando-nos assim sem mente e atrofiando a nossa capacidade de amar, ou pior ainda, transformando o nosso amor em ódio. Já estamos a ver estes usos maléficos da IA a entrar na sociedade, sob a forma de IA generativa para fazer batota na escola e algoritmos de IA a impulsionar o envolvimento nas redes sociais e nas aplicações através de conteúdos que apelam ao vício, ao mal e ao desdém pelos outros.
Esta oportunidade e ameaça da IA vai direto ao cerne do nosso ser e, assim, demonstra a validade da angústia existencial que a IA instintivamente suscita em algumas pessoas. De facto, deveria suscitar esta angústia — ou, pelo menos, preocupação — em todos nós.
Na medida em que a IA nos possa ajudar a tornar-nos seres mais lógicos e amorosos, então é uma bênção para a humanidade. Na medida em que nos torne menos lógicos e menos amorosos, será uma maldição. Embora estas duas suposições sobre a humanidade tenham fundamentos teológicos, há boas razões para supor que não se trata apenas de uma base teológica: é também psicológica, antropológica, sociológica, filosófica, ética e muito mais. Há um sentido intuitivo — e argumentos racionais a apresentar — de que estas características da humanidade estão legitimamente próximas do cerne da identidade humana e são, portanto, motivos de preocupação no que diz respeito ao nosso envolvimento com a IA.
Por último, é possível apresentar um argumento empírico sobre a importância da autonomia e da agência. A partir dos dados recolhidos neste próprio projeto. Com quatro grandes sínteses temáticas que abrangem a educação, a democracia e a saúde, provenientes de todos os países envolvidos no projeto, com dezenas de afirmações/ideias apresentadas, este é claramente um tema de importância preeminente.
No que diz respeito à autonomia e à agência, a IA ameaça ambas. Como a IA automatiza a agência, ela efetivamente delega essa agência de alguns humanos para outros humanos, utilizando a IA como instrumento (recordando C. S. Lewis, que disse o mesmo sobre a tecnologia em geral (como uma forma destilada da natureza) no capítulo 3 de A Abolição do Homem). Quem quer que controle estas IAs com agência tem, portanto, o poder de retirar o poder a outras pessoas através de sistemas automatizados.
Esta é apenas uma das formas como a IA pode retirar-nos a autonomia e a agência. Outra é que possamos ser desqualificados — tanto a nível técnico como moral — e, através disso, perder a nossa própria capacidade de sermos agentes morais plenos. Quer estejamos a ser ativamente desempoderados por outros, quer estejamos, pelo contrário, a desempoderar-nos passivamente ou através da inação, a IA representa uma ameaça genuína que deve ser enfrentada com grande cuidado e urgência.
Recordar que a autonomia e a agência estão no cerne do que significa ser humano também nos lembra que a responsabilidade é nossa. Temos responsabilidade pelas nossas ações, sejam elas pequenas ou grandes, quer estejamos a optar por nos capacitar ou incapacitar, quer estejamos a agir por ação ou omissão, ou a agir diretamente ou através de intermediários – humanos ou IA. A responsabilidade recai sobre os humanos que tomam decisões, mesmo que seja a IA a executar essas decisões, uma vez ou mil milhões de vezes.
[1] Salvatore Schiffer, D. (ed.) L’humain au centre du monde : Pour un humanisme des temps présents et à venir. Contre les nouveaux obscurantismes, Les éditions du Cerf, 2024, ISBN : 9782204162661 (our translation). https://www.opinion-internationale.com/2024/03/09/lhumain-au-centre-du-monde-un-livre-a-lire-sous-la-direction-de-daniel-salvatore-schiffer_119419.html
