A necessidade de uma bússola ética

A inteligência artificial e as neurociências comportam inúmeros desafios sociais (por exemplo, a automatização do trabalho, a tomada de decisão baseada em dados, tecnologias de persuasão, neuromodulação através de implantes neuronais ou otimização humana) [1]. Estes desafios demonstram a necessidade premente de todos os atores e partes interessadas (como instituições públicas e privadas, peritos académicos, engenheiros, atores económicos, legisladores, decisores políticos e quaisquer cidadãos interessados) considerarem mais do que apenas os aspetos técnicos e práticos do desenvolvimento destas áreas, refletindo também sobre as dimensões ética, moral e espiritual. Todas as pessoas interessadas nos desafios sociais relacionados com a inteligência artificial e com as neurociências precisam de uma bússola ética coletiva para navegar as múltiplas possibilidades abertas por estes campos de estudo.

A lacuna do humanismo

Diversas iniciativas éticas (públicas ou privadas) tentam responder a estes desafios e abrangem um número impressionante de questões [2]. Algumas destas iniciativas são apoiadas por atores muito poderosos com recursos (financeiros) consideráveis. Apesar disso, podem estar limitadas pelo facto de se basearem numa compreensão (implícita) do humanismo. Na verdade, é frequente que análises e diretrizes éticas aludam à noção do “humano” (desenvolvimento humano, tecnologia centrada no humano, natureza humana …) ou a conceitos chave fortemente associados a humanos (dignidade, autonomia …) [3]. Mas o que significa ser humano na era da inteligência artificial e das neurociências, a questão do humanismo, de quem nós somos e quem devemos ser enquanto humanos nesta era tecnológica, tem sido muito pouco explorada.

Uma lacuna problemática

O apelo a esta noção de humano caracteriza o humanismo na era moderna, iniciado no Renascimento e marcado por “um apelo ao que é essencialmente, universalmente humano”, constituindo um ponto de vista secular emancipado da autoridade da Igreja e da aristocracia [4]. Embora possamos esquecê-lo facilmente, visto que estamos tão habituados a manipular os conceitos de “humano”, “condição humana” e “natureza humana”, a referência à humanidade enquanto qualidade universal é bastante recente, estando muito associada às revoluções políticas do século XVIII e aos respetivos discursos sobre os direitos humanos [5].

Mas esta noção de humano continua a ser ambígua, no mínimo. Além da visão partilhada dos humanistas do século XIX acerca “da sua convicção da centralidade do próprio humano” [6], o significado de “humano” continua a ser controverso e multifacetado (por exemplo, podemos comparar a perspetiva francesa, que acentua a vertente política do humanismo focada na liberdade, e a perspetiva alemã, que corresponde a uma insistência filosófica no conhecimento e na compreensão). Os seus componentes mais nucleares, como o foco no indivíduo humano, na razão humana e na liberdade humana, implicam consequências ambíguas. Embora sejam fatores claros de progresso, também podem degenerar em excessos ameaçadores. O foco no indivíduo e na sua liberdade pode levar ao individualismo. A confiança na razão humana comporta o risco de cientismo, quando os limites e a falibilidade da razão humana são ofuscados pelo seu poder e sucessos. Até o antagonismo com a tradição religiosa esconde muitas subtilezas [7].

Adicionalmente, o humanismo mencionado a respeito das questões éticas colocadas pelas neurociências e pela inteligência artificial não só constitui uma ideia intrinsecamente problemática, como é posto em causa por este conhecimento e tecnologias novos. A inteligência não é uma das características definidoras dos humanos? Qual é a identidade de uma pessoa perante as possibilidades tecnológicas da neuromodulação (incluindo a modificação das emoções e da personalidade das pessoas)? Somos apenas máquinas? O nosso destino é ficarmos obsoletos e cedermos a vez a pós-humanos ou superinteligências artificiais? [8]

Estes exemplos de questões demonstram claramente que, no contexto da ética relacionada com a inteligência artificial e as neurociências, a noção de humanismo requer mais estudo. A nossa capacidade de enquadrar os desafios da inteligência artificial e das neurociências em termos éticos, morais e espirituais (a nossa capacidade para construir uma bússola ética coletiva) fica inviabilizada pela falta de uma compreensão partilhada, fiável e relevante do humanismo na era das neurociências e da inteligência artificial. Não obstante a enorme variedade e âmbito considerável dos esforços já existentes acerca da ética da inteligência artificial e das neurociências, o tópico do próprio humanismo continua a constituir uma lacuna que leva a que as partes interessadas estejam pouco preparadas para conduzir o desenvolvimento social na era das neurociências e da inteligência artificial. As suas capacidades éticas para participar na regulação das neurociências e da inteligência artificial precisam de ser reforçadas (reforço de capacidades éticas*) através da reflexão e de uma melhor compreensão do humanismo.

Mais sobre o reforço de capacidades éticas do projeto NHNAI