Ser humano na era da neurociência e da inteligência artificial implica explorar cuidadosamente os pontos de intersecção da complexidade, onde ideias válidas se encontram, no entanto, em tensão, revelando subtilezas e desafios que não devem ser ignorados. Cada página expressa a(s) tensão(ões) existente(s) entre as ideias e no seio de cada tema, que emergiram nas discussões coletivas, e é posteriormente complementada por reflexões dos investigadores da rede NHNAI.
Complexidade transversal n.º 1: Que ligação, que interações com as máquinas?
Alguns participantes salientam que, com o avanço da IA, tenderemos a desenvolver máquinas (robôs, autômatos conversacionais) capazes de imitar ou simular comportamentos e capacidades próprias dos seres humanos e dos seres vivos, tais como a empatia, a assertividade e a vida emocional e afetiva. Consequentemente, tornar-se-á cada vez mais tentador criar laços emocionais com este tipo de máquinas capazes de simular capacidades relacionais (como companheiros ou assistentes artificiais, ou robôs para cuidados pessoais).
Estas discussões levantam também a questão dos direitos a conceder a robôs avançados ou sistemas inteligentes.
Ao mesmo tempo, muitas contribuições para as discussões enfatizam a importância de não perder de vista a especificidade do vivo e do humano em relação às máquinas. As máquinas não são conscientes, não sentem emoções, não podem ser sábias, criativas, críticas ou autónomas, não são capazes de espiritualidade no sentido habitual destes termos, o que implica um enraizamento na experiência vivida, num corpo biológico. Na melhor das hipóteses, podem simular comportamentos convincentes nestes registos (nomeadamente através da conversa), comportamentos que os seres humanos ou os seres vivos teriam em determinadas circunstâncias.
Deste ponto de vista, muitos participantes concordam que a IA não pode ser um sujeito de direito. A questão é amplamente descrita como especulativa ou de ficção científica, sem deixar de ser interessante.
Assim, é amplamente expresso nas discussões que é necessário resistir à tentação (cada vez mais real e poderosa) de perceber certos robôs ou sistemas de IA como pessoas genuínas e de tentar estabelecer uma ligação afetiva com eles (como se faria com um ser humano, ou mesmo com outro ser vivo). Temos de resistir à tentação de substituir as interações com máquinas por relações humanas genuínas.
Perspetivas da rede académica da NHNAI:
Com base nas reflexões de Brian P. Green (professor de Ética da IA, Diretor de Ética Tecnológica no Markkula Center for Applied Ethics (Universidade de Santa Clara, EUA), Mathieu Guillermin (professor associado de Ética das Novas Tecnologias (UCLy (Universidade Católica de Lyon), UR CONFLUENCE: Ciências e Humanidades (EA 1598), Lyon, França) e Nathanaël Laurent (professor associado de Filosofia da Biologia (Universidade de Namur, ESPHIN, Bélgica)
É mais do que legítimo ficar maravilhado com os recentes avanços nas tecnologias de IA, que permitiram que programas como o ChatGPT e outros grandes modelos de linguagem mantivessem uma conversa convincente com seres humanos. Estas capacidades podem ter um impacto profundo nas relações humanas e nas interações dos seres humanos com as máquinas.
Conforme observado em muitas áreas temáticas do projeto NHNAI, as relações são de grande importância na vida humana e a sua proteção e melhoria devem ser uma preocupação séria de todos aqueles que trabalham com sistemas de IA e os seus efeitos. Em geral, os sistemas de IA devem auxiliar e não substituir os seres humanos – mas especialmente nas relações. Como criaturas sociais, teologicamente fomos criados à imagem de um Deus Trino relacional que é o próprio amor, mas este é também um ponto filosófico e empírico, e logicamente necessário. A humanidade não pode viver sozinha, e tudo o que corrói as nossas relações é algo arriscado e perigoso. A IA deve ser utilizada para fortalecer as relações humanas, sejam elas familiares, de amizade, económicas, políticas ou de outra natureza. A IA que prejudica as relações ataca uma parte essencial do que significa ser humano.
A. Com a IA, não criamos um tipo de entidade radicalmente novo
No entanto, esse sentimento de admiração deve ter os motivos certos. Afinal, esses sucessos nada têm a ver com a criação de novas formas de vida, novos seres inteligentes, a que chamaríamos de IAs. É igualmente vertiginoso, se não mais, perceber que a humanidade tem sido capaz de construir máquinas, artefactos capazes de simular ou reproduzir comportamentos inteligentes (comportamentos convincentes que poderiam ter vindo de seres humanos), sem qualquer vida, sem experiência vivida, sem consciência, mas com mecanismos puros (mecanismos inertes, mas deslumbrantemente complexos e miniaturizados).
Além de desmistificar a aprendizagem automática (incluindo a aprendizagem profunda, baseada em redes neurais artificiais)[1], é também crucial lembrar que todos os programas (desde os mais tradicionais e convencionais até ao mais avançado programa de IA produzido pela aprendizagem automática) funcionam em computadores ou máquinas semelhantes que não são (ou são menos) programáveis. O que uma máquina como um computador faz é transformar configurações materiais às quais os humanos associaram significados precisos (uma série de ímanes num disco rígido simboliza uma sequência de 0s e 1s, ela própria associada, por exemplo, a uma sequência de palavras ou a uma sequência de números que codificam as cores dos píxeis numa imagem) em novas configurações materiais associadas a outros significados (por exemplo, uma nova série de palavras, uma imagem modificada ou uma descrição da imagem). Este tipo de máquina, concebida para transformar configurações materiais noutras de acordo com o que essas configurações significam, não é nova. O computador pode ser visto como o culminar de uma longa história evolutiva de técnicas e tecnologias da informação, que remonta provavelmente aos primórdios da escrita. Nesta perspetiva, o ábaco pode ser visto como um antepassado do computador (transformação mecânica de configurações que simbolizam, por exemplo, números a somar, em configurações que simbolizam o resultado da soma).
Assim, estritamente falando, não há significados, imagens, palavras ou números nos computadores, muito menos emoções ou consciência. São, no entanto, máquinas fantásticas para manipular mecanicamente (com incrível eficiência e precisão) inúmeras configurações materiais às quais nós, humanos, atribuímos significado. Uma série de ímanes no disco rígido de um computador fará com que diferentes píxeis no ecrã emitam cores diferentes, que serão para nós mais do que meras fontes minúsculas de luz colorida, transformando-se em textos que nos falam de sentimentos, imagens de rostos a sentir tais e tais emoções. Mas o computador apenas processa informação através da manipulação mecânica e automática de ímanes (ou outras configurações de hardware). Isto torna ainda mais impressionante ver o que conseguimos que os computadores façam com programas derivados de técnicas de aprendizagem automática.
B.
Mas a IA, tal como qualquer tecnologia, molda quem somos e como vivemos
Reconhecer estes poderes dos computadores nunca deve deixar de incluir uma compreensão clara de que os computadores e os sistemas de IA não são entidades que surgem à margem de nós. Como acabámos de ver, não se assemelham em nada à IA da ficção científica, que se torna consciente e autónoma num sentido forte. No entanto, há outro sentido crucial em que os sistemas de IA não estão à margem de nós: não são meras ferramentas que poderíamos mobilizar apenas quando precisamos delas e que, de outra forma, permaneceriam silenciosamente e de forma neutra na prateleira. A tecnologia transforma-nos profundamente. Ela molda e medeia as nossas formas de ser e de viver em conjunto.
A visão sociológica de Bruno Latour pode ajudar-nos a compreender este ponto importante. Para ele, o «social» é uma composição associativa[2]. Uma situação é vista como um «coletivo híbrido» composto por interagentes humanos e não humanos. Nem objetos nem sujeitos, estes interagentes são eles próprios concebidos como redes relacionais. Uma aplicação digital, por exemplo, não pode ser concebida sem os seus designers, nem sem a equipa de manutenção, nem sem a interface do utilizador, nem, claro, sem os seus presumíveis utilizadores e utilizações pretendidas. Mas os utilizadores podem muito bem apropriar-se dessa utilização para a adaptar ao seu próprio contexto experiencial. Uma IA como o ChatGPT é um composto formado por todos os autores humanos que geraram os textos que treinaram o modelo, mais todos os designers do modelo, mais todos os agentes que filtram as produções da IA, mais todos os utilizadores e os contextos de utilização esperados e imprevisíveis.
C. A capacidade de imitação dos sistemas de IA representa uma verdadeira revolução
Os grandes modelos de linguagem, como o ChatGPT, comunicam connosco de forma convincente (com conteúdo afetivo ou emocional credível). Podemos também tentar analisar automaticamente as emoções e os sentimentos no que as pessoas dizem, ou em vídeos que captam expressões corporais ou faciais. Estas novas tecnologias abrem a possibilidade de interações cada vez mais ricas e interessantes com as máquinas, com modalidades que reproduzem ou simulam um número crescente de características das interações e relações entre os seres vivos em geral, e entre os seres humanos em particular. Para considerar adequadamente as consequências e os desafios destas novas possibilidades de interação com as máquinas, é necessário salientar vários pontos.
a. A extrema utilidade da IA e as questões relacionadas com a uniformização
Antes de analisarmos os desafios inerentes à imitação humana (e da vida) per se, é importante salientar que estas capacidades de imitação transformam profundamente a forma como interagimos com as máquinas. Esta interação pode tornar-se extremamente fluida e fácil, em comparação com as competências digitais normalmente necessárias para utilizar um computador. Atualmente, cada vez mais tarefas podem ser iniciadas e controladas através de comandos de voz em linguagem natural. Isto significa também que os sistemas digitais se tornarão, sem dúvida, ainda mais omnipresentes do que já são.
Nesta perspetiva, uma primeira questão que devemos contornar para maximizar os resultados positivos das tecnologias de IA não é o problema da aparência humana de um objeto, nem da objetificação/dataficação de um ser humano. Com base nas ideias de Latour (os seres humanos e a sua tecnologia formam uma rede intrincada de interatores, da qual os seres humanos não podem ser isolados), o que é importante evitar é que os sistemas de IA conduzam a uma uniformização das vidas humanas e se tornem um impedimento à sua criatividade. Formas padronizadas de mediação — sistemas de IA e humanos que interagem com eles — poderiam sobrecarregar e ameaçar a possibilidade de aprender e inovar em situações locais concretas. A aprendizagem local resultante de interações não controladas com o ambiente é tão crucial quanto os sistemas padronizados de registo e processamento de dados. É isto que Amitav Ghosh formulou[3], por exemplo, sobre o problema das alterações climáticas:
Para aqueles que observam atentamente o ambiente em que vivem, as pistas para mudanças a longo prazo provêm, por vezes, de fontes inesperadas. (…) As pessoas que prestam mais atenção às mudanças ecológicas encontram-se, na maioria das vezes, à margem; as relações que mantêm com o solo, a floresta ou a água são pouco mediadas pela tecnologia.
b. Sem nunca esconder quem é quem (ou o que é o quê)[4]
Voltando à questão da aparência humana da máquina em si, e contrariamente ao que as abordagens behavioristas possam sugerir (em relação ao famoso teste de Turing), parece-me importante, em primeiro lugar, manter uma distinção entre simular um comportamento resultante de uma experiência vivida e apresentar esse mesmo comportamento enquanto se vive essa experiência. O que podemos dizer, por exemplo, sobre uma máquina que expressa palavras de compaixão a uma pessoa idosa perante a perspetiva do fim da vida? Isto não pode ser confundido com as mesmas palavras proferidas por uma pessoa capaz de vivenciar a sua finitude, sentindo e simpatizando numa experiência vivida partilhada. Se a tecnologia de IA for devidamente compreendida, o que temos com uma máquina a emitir palavras de simpatia não deve ser descrito como uma máquina a ter tais sentimentos. Em vez disso, é interessante analisar que tipo de vontade, sentimentos e intenções humanas estão realmente envolvidos. A análise de Latour é profundamente esclarecedora nesta perspetiva, uma vez que leva a considerar os sistemas de IA como parte de uma rede de interatores humanos e não humanos, neste caso organizados para proferir automaticamente palavras de simpatia. A intenção humana existe aqui, mas parece extremamente geral, remota e abstrata. É a intenção dos programadores e de outras pessoas envolvidas na decisão de construir este sistema. Tais sentimentos, vontade e intenções são radicalmente diferentes daqueles de uma pessoa singular que expressa a sua simpatia a alguém com quem está em contacto direto. O valor da palavra proferida nem sequer pode ser comparado.
c. O problema de tratar máquinas com aparência humana como meras máquinas
Em segundo lugar, é igualmente importante referir que o simples facto de reconhecer que as máquinas são apenas máquinas e de as tratar como meras ferramentas não é, necessariamente, a resposta para todos os problemas. De facto, nesta perspetiva e muito provavelmente, os companheiros artificiais (como no filme de Spike Jonze de 2013, Her) serão construídos e programados para encontrar o seu lugar num mercado e, por isso, comportar-se de forma a satisfazer o utilizador (por exemplo, quem iria querer um companheiro artificial que pudesse trair ou abandonar o seu humano?). Iremos, portanto, deparar-nos com sistemas que são percebidos como objetos, como bens, mas que irão derivar todo o seu apelo específico da sua capacidade de se assemelhar a uma pessoa genuína, de manifestar uma aparência de humanidade, personalidade ou vida. Habituarmo-nos gradualmente à combinação destas duas características poderá revelar-se extremamente destrutivo para a humanidade. Poderia equivaler a desenvolver gradualmente uma capacidade de nos sentirmos confortáveis com a escravidão: «Onde não existe um “outro”, mas apenas a aparência de um outro à nossa disposição, concomitantemente com a ausência da exigência que seria exercida sobre a nossa própria entrega de si pelo confronto com um verdadeiro outro, corremos o risco de ser condicionados a um perigoso talento para a exploração.»[5]
Na mesma linha, esta combinação do estatuto de objeto ou ferramenta com a aparência pessoal também pode levar-nos a habituar-nos a uma atitude consumista em relação ao comportamento das outras pessoas, reduzindo gradualmente a nossa tolerância para com comportamentos alheios que nos incomodariam. Não é impossível que a presença constante de companheiros artificiais, cujos comportamentos perturbadores serão percebidos como defeitos (em virtude do seu estatuto de ferramentas ou objetos), nos leve sub-repticiamente a ver pessoas genuínas que nos perturbam da mesma forma, «como simplesmente seres humanos defeituosos, olhando para elas com o mesmo tipo de insatisfação ociosa que sentiríamos com um robô que não apresentasse o conjunto de comportamentos e reações que queríamos consumir.»[6]
Isto pode levar a reconsiderar a questão de que direitos devem ser concedidos aos robôs e aos sistemas de IA. É certo que o seu estatuto de máquinas significa que podemos legitimamente recusar considerá-los como sujeitos de direito. Isto não significa, no entanto, que devamos deixar que todos façam o que bem entendem com eles, tal como faríamos com uma mesa. Um quadro regulamentar pode ser desejável nesta área, nem que seja apenas para impedir o desenvolvimento de comportamentos ou hábitos extremamente tóxicos para os seres humanos e outros seres vivos.
Todos estes fatores encorajam-nos a refletir profundamente sobre o motivo pelo qual desenvolvemos máquinas cada vez mais capazes de apresentar a aparência de seres humanos ou de outros seres vivos. Precisamos de refletir sobre o que podemos realmente ganhar com tais tecnologias.
[1] Saiba mais sobre a aprendizagem automática na contribuição de um especialista em complexidade para a democracia: https://nhnai.org/focus-on-nexuses-of-complexity-democracy/
[2] See: https://www.erudit.org/fr/revues/cs/2022-n4-cs07915/1098602ar.pdf
[3] A. Ghosh, La malédiction de la muscade. Une contre-histoire de la modernité, Wildproject 2024, pp. 170-171 (our translation).
[4] Nas subsecções seguintes, baseamo-nos no trabalho do AI Research Group of the Centre for Digital Culture (Culture and Education), and its book “Encountering Artificial Intelligence: Ethical and Anthropological Investigations.” *Journal of Moral Theology* 1 (Theological Investigations of AI) 2023; especially chapter 4. https://doi.org/10.55476/001c.91230
[5] Ibid., p. 119.
[6] Ibid., p. 121. The full sentence reads: “Is it possible that we will no longer see this as a glimpse of a wider array of humanity, that we will not struggle toward a charitable response? Perhaps instead, we may come to think of these others as simply faulty human beings, viewing them with the same sort of idle dissatisfaction that we would feel with a robot that did not deliver the set of behaviors and reactions that we wanted to consume.”
