Ser humano na era da neurociência e da inteligência artificial implica explorar cuidadosamente os pontos de intersecção da complexidade, onde ideias válidas se encontram, no entanto, em tensão, revelando subtilezas e desafios que não devem ser ignorados. Cada página expressa a(s) tensão(ões) existente(s) entre as ideias e no seio de cada tema, que emergiram nas discussões coletivas, e é depois complementada por reflexões dos investigadores da rede NHNAI.
Complexidade na Educação #1: IA e SN na educação no que diz respeito ao desenvolvimento humano
Inclusão, personalização e relações humanas
Os participantes destacam os benefícios que a IA pode trazer para a educação, a começar pela digitalização e pelas plataformas escolares online, que tornam os materiais didáticos online acessíveis a qualquer pessoa, facilitando o ensino fora do horário letivo, permitindo que os alunos aprofundem as matérias abordadas em sala de aula e facilitando a recuperação das aulas em caso de ausência. As tecnologias digitais também permitem discussões online e fóruns de debate que podem facilitar a expressão de pessoas muito tímidas ou que se sentem desconfortáveis ao falar em público.
Mais especificamente, os participantes também reconhecem que a IA pode ser de grande ajuda na educação. Os sistemas de tradução e aprendizagem de línguas assistidos por IA, especialmente quando combinados com bots conversacionais com capacidades de conversão de voz em texto e de texto em voz, estão a tornar-se mais acessíveis. Podem ser de grande ajuda, por exemplo, porque a aprendizagem de línguas requer, em parte, prática oral (sendo os robôs conversacionais, nesse caso, possivelmente mais eficazes do que os livros de línguas). Essas ferramentas podem até revelar-se indispensáveis para pessoas com dificuldades linguísticas ou para pessoas surdas ou com deficiência auditiva (conforme mencionado no Quénia e em França).
Para os participantes, chatbots como o ChatGPT, quando utilizados com sensatez, podem ser uma ferramenta pedagógica formidável, um auxílio necessário à aprendizagem que complementa o professor. Este aspeto complementar entre a IA e o professor foi enfatizado várias vezes nas discussões, nomeadamente no que diz respeito à personalização da aprendizagem. A IA permite personalizar percursos de aprendizagem de acordo com o ritmo, o nível e as capacidades de cada aluno. Uma vez que é física e cognitivamente impossível para o professor ter em conta todas as especificidades de cada aluno, a IA permite-lhe ter uma visão global e identificar os alunos com dificuldades que necessitam de maior apoio.
No entanto, os participantes reconhecem também que a contribuição da IA para a educação (maior inclusão, maior acesso…) se traduz, muitas vezes, numa redução da interação presencial e do contacto humano, e esta preocupação foi quase unânime nos debates. A disponibilidade de materiais de aprendizagem online pode igualmente ter o efeito negativo de incentivar os alunos a dedicar menos tempo às atividades em sala de aula, ou mesmo levar alguns a abandonar a escola e optar pelo ensino em casa, uma vez que tudo está agora disponível online e ao alcance de todos. Tal como referido em vários países, incluindo Portugal, existe também o risco de os jovens, tendo-se habituado a este novo formato de relações online, se contentarem com estes contactos virtuais e começarem a ignorar as suas necessidades relacionais, emocionais e físicas, ao ponto de se tornarem distantes e frios no contacto com os outros.
Em geral, os participantes concordam com a ideia de que o enfraquecimento das relações humanas nas interações presenciais ameaça globalmente a educação. Só nas interações presenciais é que a empatia, a emoção, a compreensão mútua e recíproca — em suma, o encontro com o outro — podem verdadeiramente entrar em jogo. Interações presenciais quando se trata de aprender a ser, a conhecer e a agir. A presença de um professor e a transmissão da sua paixão e emoções desempenham um papel importante na motivação e atenção do aluno e, por conseguinte, na sua aprendizagem. Assim, a escola não é apenas um local de aprendizagem, mas também um local para partilhar, conhecer novas pessoas e aprender a viver em conjunto, para ajudar a sociedade a prosperar. Através da interação presencial, confrontamo-nos uns com os outros, aprendemos códigos sociais e transmitimos valores. A educação digital, ou a educação que se realiza excessivamente atrás de ecrãs, pode, em última análise, contribuir para reforçar o individualismo e o egoísmo, o que constituiria um grande obstáculo à vida em comunidade e uma ameaça à coesão social.
Além disso, mesmo reconhecendo que a IA pode tornar o material didático mais acessível e melhorar os processos de aprendizagem, os participantes também se preocupam com o risco de agravar as desigualdades. De facto, a IA poderá ser acessível e benéfica apenas para grupos ou pessoas de condições socioeconómicas favorecidas, nomeadamente porque os programas de IA requerem recursos e infraestruturas dispendiosos de que algumas populações carecem atualmente. Além disso, os programas de IA não estão isentos de preconceitos, o que poderá perpetuar a discriminação e o estigma, especialmente quando algumas culturas e populações estão sub-representadas nas bases de dados de treino (tornando as ferramentas de IA menos eficientes para elas, para além das questões de discriminação direta).
Perspetivas da rede académica da NHNAI:
A. Evitar o desinvestimento nas relações humanas e a mercantilização do ser humano
Com base nas reflexões de Brian P. Green (professor de Ética da IA e diretor de ética tecnológica no Markkula Center for Applied Ethics (Universidade de Santa Clara, EUA)) e de Laura Di Rollo (engenheira de investigação em ciências cognitivas no projeto NHNAI (UCLy (Universidade Católica de Lyon), UR CONFLUENCE: Ciências e Humanidades (EA 1598), Lyon, França)
No seu livro «Alone together» (2011),[1] Sherry Turkle manifesta a sua preocupação com o facto de os jovens já não investirem nas relações humanas e de se esperar mais das tecnologias do que dos seres humanos. As relações centradas na educação estão entre as mais importantes que mantemos enquanto seres humanos. A maioria das pessoas consegue recordar alguém que lhes ensinou algo, quer tenham sido os nossos pais, um amigo ou um professor na escola. Estas relações educativas são vitais para a nossa humanidade e a IA coloca-as em risco, particularmente de duas formas: 1) como uma distração da aprendizagem (como acontece com os algoritmos de recomendação nas redes sociais e outras plataformas digitais, que são otimizados para captar a atenção), e 2) como um substituto da aprendizagem (por exemplo, com ferramentas de IA generativa que as crianças e os estudantes podem usar para facilitar as suas tarefas).
Os seres humanos precisam uns dos outros, especialmente na educação. Com a socialização degradada, o cérebro humano sofre sintomas semelhantes ao stress, acarretando não só uma redução das capacidades do sistema nervoso, mas, mais claramente, um empobrecimento na qualidade e diversidade das experiências, o que conduz a uma certa perda de liberdade geral de pensamento e ação ao longo da vida. Para se tornarem seres humanos genuínos, as crianças não devem ser criadas por ecrãs e algoritmos, mas por outros seres humanos genuínos. Nesta perspetiva, questiona-se qual o momento e o local adequados para introduzir ferramentas tecnológicas avançadas para crianças, alunos e professores. Para poderem avaliar adequadamente o interesse e o valor acrescentado da tecnologia numa determinada atividade, os professores devem, em primeiro lugar, ser capazes de dar aulas sem qualquer dispositivo tecnológico de grande porte. Se os professores aprenderem a fazê-lo com um elevado nível de dependência da tecnologia desde o início, isso põe em causa a fiabilidade da sua compreensão do ciclo de aprendizagem através da interação humana.
Para além da questão do desinvestimento nas relações humanas, as tecnologias digitais apresentam também o risco de mercantilizar os seres humanos, ou seja, de os reduzir a meros objetos. Com efeito, como salienta Sherry Turkle (2011), o risco é que o nosso «eu» se transforme num «eu-objeto» online, onde nos tratamos cada vez mais uns aos outros como objetos e de forma expedita. O exemplo mais revelador é certamente o e-mail. Os e-mails são, por si só, uma carga cognitiva, mas, por vezes, são mensagens de amigos ou colegas que dizemos que precisamos de «tratar» ou «livrar-nos delas» para as podermos riscar da nossa lista de tarefas, como se estivéssemos a falar de esvaziar o nosso cesto de papéis.
Em última análise, o perigo é perdermos a sensação de estar vivos, a forma de estar no mundo que preserva uma certa dignidade e autenticidade, e que apenas as relações humanas e o contacto cara a cara podem proporcionar. A IA tem o potencial de ser uma arma de destruição maciça contra o sistema educativo mundial. Precisa de ser desarmada e, em vez disso, aproveitada como uma fonte de poder para ajudar os humanos a tornarem-se pessoas melhores, em vez de nos prejudicar ao dar asas às piores partes da nossa natureza. Assim, parece necessário encontrar um equilíbrio para beneficiarmos do que a IA nos pode trazer, preservando ao mesmo tempo aqueles contactos humanos preciosos que definem em grande parte a nossa humanidade, nomeadamente através de certos atributos. A voz humana é para Sherry Turkle o que o rosto é para Levinas.[2] Para Sherry Turkle, é na voz que a gama de emoções humanas e a singularidade dos seres são transmitidas e ouvidas. Para Levinas, é através do rosto que o outro me aparece na sua fragilidade, vulnerabilidade e singularidade, o que exige uma injunção ética para proteger e não prejudicar. O rosto é uma interface que nos permite entrar numa relação com os outros e, através deles, com a humanidade. Isto levanta a questão de saber se o perigo que ameaça a humanidade, com relações maioritariamente à distância e, na sua maioria, sem rosto, não será a indiferença para com o outro e, com ela, a perda de preocupação pela humanidade.
[1] Turkle, S. (2011). Alone together. Why We Expect More from Technology and Less from Each Other. Basic Books, New York.
[2] Lévinas, E. (1984). Ethique et infini. Le livre de poche
B. Combater o aumento da desigualdade: solidariedade e relações
Com base nas reflexões de Brian P. Green (professor de Ética da IA e diretor de ética tecnológica no Markkula Center for Applied Ethics (Universidade de Santa Clara, EUA)), Nathanaël Laurent (professor associado de filosofia da biologia na Universidade de Namur, ESPHIN) e Federico Giorgi (investigador de pós-doutoramento em filosofia na Universidade de Namur, ESPHIN, Bélgica)
A IA como fator de desigualdade social e económica é uma questão incontornável, uma vez que a IA irá reduzir o valor do trabalho e aumentar o valor do capital, desviando assim a riqueza dos trabalhadores para os detentores da IA. Como preparar os alunos de hoje para o estranho mundo de amanhã, onde o trabalho poderá não ter valor e apenas aqueles que já possuem riqueza a manterão, é um problema por resolver de proporções gigantescas.
Os alunos precisam de saber que um futuro estranho se aproxima e de estar cientes de que a IA e a neurotecnologia são tecnologias em desenvolvimento que podem afetar os seus futuros. Além disso, não se deve permitir que a incerteza que estas revelações irão suscitar se sobreponha à crescente importância de atividades tipicamente humanas, como a busca da ética, da justiça e a criação de um mundo mais solidário. Embora o trabalho intelectual possa, em alguns casos, ser automatizado, as relações de afeto entre famílias e amigos nunca poderão ser automatizadas. As relações humanas específicas não são fungíveis e, por isso, a IA nunca poderá substituí-las. O valor da família e dos amigos deve ser reenfatizado e o estudo do que constitui boas relações deve ser uma parte fundamental da revisão da educação.
A preocupação geral de que a IA possa tornar-se uma ferramenta de exclusão contra os segmentos menos abastados da população não parece estar especificamente ligada a nenhum tipo de tecnologia em particular. Pelo contrário, surge potencialmente sempre que é feita uma nova descoberta científica capaz de melhorar as condições de vida de uma parte significativa da população. Se, por exemplo, um tratamento altamente eficaz, mas dispendioso, para uma doença grave fosse comercializado no futuro, o mesmo risco de exclusão aplicar-se-ia àqueles que não dispõem dos meios financeiros para o adquirir.
As reflexões dos participantes levantam, portanto, questões muito amplas, mas não menos relevantes para a realidade concreta vivida diariamente por milhões de pessoas — nomeadamente, a relação entre ética e economia. Podemos ainda hoje sustentar que a ciência económica deve gozar de autonomia absoluta em relação a quaisquer propostas de regulamentação destinadas a limitar os efeitos devastadores da desigualdade? Ou será necessário contestar essa visão economicista, tal como proposto por pensadores como Jean Ladrière, Amartya Sen e Martha Nussbaum (Caltagirone, 2017)?
As contribuições dos participantes nos debates da NHNAI parecem confirmar, mais uma vez, que o desenvolvimento económico e tecnológico não pode ser separado de uma avaliação moral dos riscos de exclusão que a digitalização acarreta para aqueles que não têm acesso às novas tecnologias.
