Ser humano na era da neurociência e da inteligência artificial implica explorar cuidadosamente os pontos de intersecção da complexidade, onde ideias válidas se encontram, no entanto, em tensão, revelando subtilezas e desafios que não devem ser ignorados. Cada página expressa a(s) tensão(ões) existente(s) entre as ideias e no seio de cada tema, que emergiram nas discussões coletivas, e é depois complementada por reflexões dos investigadores da rede NHNAI.
Complexidade transversal n.º 4: Apoiar sem comprometer a tomada de decisões humanas
Muitos participantes em debates coletivos reconhecem que as tecnologias de IA podem apoiar os seres humanos na tomada de decisões em vários domínios (e até mesmo ter um desempenho superior em algumas tarefas). Podem ajudar-nos a organizar a vasta quantidade de informação com que temos de lidar (especialmente nas redes sociais e na Internet) e contribuir para melhorar a qualidade dessa informação (verificação de factos, combate às notícias falsas (deepfakes), …). Podem permitir prevenir ou gerir vários problemas e crises (garantindo maior segurança no espaço público com uma vigilância mais eficiente, detetando fraudes ou corrupção, antecipando epidemias ou os caprichos do tempo e das alterações climáticas, …).
No entanto, também é amplamente expresso que o apoio da IA à tomada de decisões pode suscitar dificuldades extremamente graves. Em primeiro lugar, pode tornar-se difícil preservar a tomada de decisão humana independente, com a possibilidade de, por vezes, divergir das recomendações da máquina (por exemplo, com base na reflexão humana com intuição treinada). Isto pode tornar-se particularmente problemático para os profissionais a quem delegamos e concedemos autoridade, com o risco de transferir a delegação de autoridade dos profissionais para as máquinas (esta preocupação tem sido expressa relativamente à relação médico-paciente, mas provavelmente também se poderia aplicar no contexto da educação, no que diz respeito à relação aluno-professor). Além disso, as cadeias e os padrões de responsabilidade podem sofrer diluição e ofuscação. Nesta perspetiva, nunca se deve perder de vista o facto de que apenas os seres humanos, graças à sua consciência e pensamento crítico, são capazes de fazer escolhas éticas e tomar decisões responsáveis. Os seres humanos são, portanto, os únicos responsáveis pelas orientações tecnológicas e pelas consequências das utilizações da IA.
Além disso, e tal como as discussões no domínio da democracia têm vindo a salientar, o envolvimento da IA (generativa) no processamento, gestão e editorialização do nosso panorama informativo suscita questões preocupantes, com sérios riscos de minar e impedir a inteligência coletiva. Algoritmos tendenciosos e/ou injustos podem propagar automaticamente e de forma silenciosa discriminações, criar bolhas informativas ou cognitivas que isolam os indivíduos em panoramas informativos uniformes. A IA (generativa) pode facilitar e fomentar a produção e a disseminação de notícias falsas (deepfakes). A IA pode prejudicar a nossa capacidade de encontrar informação precisa, fiável e com fontes verificadas, introduzindo desconfiança entre cidadãos desinformados, comprometendo boas escolhas democráticas e o pluralismo.
Perspetivas da rede académica da NHNAI:
A tese de que seria possível programar um algoritmo para tomar decisões éticas em nosso nome é por vezes designada por «algorética». Para além das muitas questões críticas com que tal perspetiva se depara, compreensivelmente — algumas das quais são destacadas pelos participantes no debate da NHNAI —, é interessante notar como este tipo de projeto tende a reduzir a moralidade de uma ação à intenção do agente de alinhar o seu comportamento com um conjunto de princípios éticos.
Esta visão deontológica da ética, embora não isenta de argumentos de apoio, parece um tanto redutora, uma vez que não dá consideração suficiente aos resultados da ação empreendida (Cabitza, 2021). Ao refletir sobre como uma nova tecnologia deve ser utilizada, parece, portanto, mais apropriado adotar uma abordagem consequencialista — na qual o caráter moral de uma ação é avaliado principalmente com base nas consequências que produz.
