Ser humano na era da neurociência e da inteligência artificial implica explorar cuidadosamente os pontos de intersecção da complexidade, onde ideias válidas se encontram, no entanto, em tensão, revelando subtilezas e desafios que não devem ser ignorados. Cada página expressa a(s) tensão(ões) existente(s) entre as ideias e no seio de cada tema, que emergiram nas discussões coletivas, e é depois complementada por reflexões dos investigadores da rede NHNAI.
Complexidade na democracia #1: Que lugar têm os dados e a IA nos serviços públicos e na gestão da vida em comunidade?
O conteúdo dos debates revela que muitos participantes reconhecem o interesse das tecnologias de IA no aumento da eficiência dos serviços públicos, tornando-os mais acessíveis (através da digitalização) e mais eficientes (graças à automatização de certas tarefas, por exemplo, administrativas). A IA e as tecnologias digitais também parecem ser consideradas interessantes para facilitar a vida democrática e a tomada de decisões políticas (nomeadamente através da análise de dados para compreender melhor as tendências da opinião pública).
No entanto, muitos participantes também salientam a importância de não relegar os seres humanos para segundo plano e de não submeter as pessoas inteiramente a algoritmos. Houve muita discussão sobre a importância de manter os algoritmos no seu devido lugar, como ferramentas para servir e cooperar com os seres humanos (mas não para os substituir inteiramente). A vida coletiva (democrática) exige a preservação (ou mesmo o aumento) da empatia e das relações entre os seres humanos. A automatização e a digitalização dos serviços públicos não são, por si só, necessariamente benéficas para todos. Algumas populações podem ter dificuldade em aceder às ferramentas digitais, e os algoritmos podem conter preconceitos e automatizar certas formas de discriminação. A dependência das tecnologias digitais pode também suscitar problemas de confiança em relação aos Estados. As tecnologias de IA podem até ser utilizadas para exercer uma forma de controlo sobre os cidadãos, minando a sua liberdade de escolha, de expressão e de pensamento. É, portanto, importante para os participantes que a tomada de decisões (a nível político ou dos serviços públicos) permaneça sob controlo humano.
A automatização e a utilização de dados na condução dos assuntos públicos podem, portanto, ser uma fonte de grande progresso, mas não devem ser em detrimento dos seres humanos (ou de certos grupos mais vulneráveis). As tecnologias de IA mobilizadas devem ser fiáveis (as esperanças enganosas suscitadas pelo anúncio da digitalização podem minar ainda mais a confiança nos governos) e demonstrar elevados níveis de equidade, responsabilização e transparência (para garantir a construção da confiança e a aceitação social).
A um nível mais fundamental, muitos participantes reivindicam uma espécie de direito a não serem reduzidos aos seus dados digitais.
Perspetivas da rede académica da NHNAI:
Com base nas ideias de Brian P. Green (Professor de Ética da IA e Diretor de Ética Tecnológica no Markkula Center for Applied Ethics, Universidade de Santa Clara, EUA), Mathieu Guillermin (Professor Associado de Ética das Novas Tecnologias na UCLy (Universidade Católica de Lyon), UR CONFLUENCE: Ciências e Humanidades (EA 1598), Lyon, França), Nathanaël Laurent (Professor Associado de Filosofia da Biologia (Universidade de Namur, ESPHIN, Bélgica) e Yves Poullet (Professor de Direito das Novas Tecnologias da Informação e Comunicação (Universidade de Namur, ESPHIN – CRIDS, Bélgica)
A. Melhorar a eficiência dos processos democráticos sem comprometer a singularidade das pessoas
A IA pode ajudar-nos em muitos domínios. Queremos usar a IA para nos tornarmos mais eficientes nas coisas boas e, ao mesmo tempo, usar a IA para tornar as coisas más menos eficientes. Será que a IA pode ajudar a facilitar a ajuda às pessoas? Será que a IA pode ser usada para detetar a corrupção? Em que outras coisas boas pode a IA ajudar e que coisas más pode a IA ajudar a impedir? A utilização da IA para reforçar os processos democráticos é interessante, embora provavelmente repleta de controvérsia, mas talvez capaz de realizar coisas nunca antes possíveis na democracia, como realizar inquéritos a populações inteiras e descobrir o que «o povo» pensa realmente sobre muitas questões políticas, com margens de incerteza associadas, e assim por diante. Uma nova forma de democracia poderá ser possível. Isso não significa que será melhor, mas poderá valer a pena realizar um estudo-piloto e experimentá-la.
Qualquer esforço neste sentido não deve, no entanto, nunca comprometer a centralidade da pessoa humana (e de outros seres vivos). Um primeiro princípio fundamental que devemos afirmar é o direito de todos a participar na sociedade da informação. Este direito deve ser progressivamente alargado, uma vez que a utilização das infraestruturas e de certos serviços digitais se está a tornar hoje cada vez mais essencial para o desenvolvimento da nossa personalidade. Este direito implica o direito à educação para a literacia digital[1], bem como o direito aos «serviços de plataforma essenciais», tais como redes sociais e motores de busca.
Preservar a centralidade da pessoa humana significa também respeitar o princípio da supervisão humana (o controlo, por parte de seres humanos, do funcionamento dos sistemas de IA). Além disso, as pessoas nunca devem estar integralmente sujeitas a decisões tomadas por sistemas automatizados. As explicações das decisões devem ser fornecidas por seres humanos e deve ser garantido o direito de recurso.
Este respeito pela centralidade da pessoa humana está em sintonia com um dos eixos fortes da posição do Papa Francisco sobre a IA, em relação à resistência contra o que ele denomina o «paradigma tecnocrático»: «O respeito fundamental pela dignidade humana significa recusar que a singularidade da pessoa seja identificada por um conjunto de dados. Não se pode permitir que os algoritmos determinem a forma como compreendemos os direitos humanos, ponham de lado os valores essenciais da compaixão, da misericórdia e do perdão, ou eliminem a possibilidade de um indivíduo mudar e deixar o passado para trás.»
| An analysis from the Kenyan perspective: How Artificial Intelligence is Shaping Governance in Africa?
Prof. Samuel Nyanchoga*, Catholic University of Eastern Africa (CUEA) *Professor and expert in the Department of History, and Director of the Directorate of Research at the Catholic University of Eastern Africa (CUEA) Artificial Intelligence (AI) is transforming governance in Africa by improving efficiency, transparency, and service delivery. It enhances electoral systems through better voter registration and verification, supports policy communication via digital tools like audio conferencing, and bolsters national security by tracking illicit activities. AI also reduces prison overcrowding through alternative monitoring methods, boosts revenue collection by reducing corruption, and promotes rural development by exposing communities to urban innovations. Furthermore, it improves healthcare, strengthens engagement with vulnerable groups such as refugees and pastoralists, and supports environmental monitoring and digital micro-economies. Despite these benefits, AI poses significant threats that must be addressed. These include algorithmic bias, especially in facial recognition; risks to data privacy and transparency; and potential misuse in elections and cybersecurity breaches. AI adoption also raises concerns about job displacement, erosion of cultural values, overreliance on foreign technologies, and weakened human-centered governance. Technical vulnerabilities such as power outages and increased financial crimes like money laundering further complicate its use. To mitigate these risks, Africa must adopt context-specific AI policies, invest in infrastructure and public education, integrate AI into the school curriculum, and collaborate with traditional and religious leaders to build trust. Emphasizing African values like Ubuntu, promoting inclusive design, and demystifying AI are crucial for public acceptance. Ultimately, AI should enhance not replace human empathy, dialogue, and community-centered leadership in governance. |
B. Os algoritmos são mais imparciais do que os seres humanos?
Tendo isto em conta, é importante consolidar a nossa aculturação coletiva à tecnologia digital. Com efeito, a noção de algoritmo pode facilmente transmitir a ideia de ausência de preconceitos e de uma maior racionalidade ou objetividade em comparação com o julgamento humano (afinal, os algoritmos são procedimentos lógico-matemáticos que não deixam margem para a arbitrariedade ou a subjetividade humana). No entanto, esta conotação esconde uma realidade muito mais contrastante.
A intuição básica é válida: se uma discriminação for explicitamente programada, ela «aparecerá» no programa e o programador poderá ser chamado à responsabilidade. No entanto, esta transparência não é necessariamente o caso dos programas de IA obtidos através da chamada aprendizagem automática. Sem
pretender juntar-me ao grupo de comentadores que apresentam estes programas como caixas negras (podemos observar os cálculos a serem feitos, nada está oculto ou invisível por princípio), é importante compreender que eles podem muito facilmente incluir preconceitos e levar a uma discriminação difícil de detectar ao analisar diretamente o conteúdo do programa.
De facto, a ideia geral subjacente à aprendizagem automática é tentar contornar as limitações da nossa capacidade de escrever explicitamente programas para tarefas complexas. Por exemplo, podemos facilmente escrever um programa para distinguir entre imagens monocromáticas a preto e branco… basta fazer alguns cálculos simples sobre os números que codificam a cor dos píxeis nessas imagens… mas que cálculos podemos fazer sobre esses mesmos números para obter um programa capaz de distinguir entre múltiplas imagens de objetos do quotidiano? Nesta fase, podemos tentar dar um passo além escrevendo um programa com «lacunas», ou melhor, «parâmetros livres», ou seja, um esboço de um programa capaz de realizar muitas operações lógico-matemáticas diferentes (multiplicação por coeficientes, adições, outras operações mais complexas) e encadeá-las de inúmeras maneiras. Os detalhes das operações serão determinados definindo os parâmetros para um determinado valor. A ideia do aprendizado de máquina é dizer que, com um pouco de sorte (e, acima de tudo, muita habilidade e perspicácia por parte dos desenvolvedores), existe um conjunto de parâmetros que produzirá um programa eficiente para a tarefa que até agora se mostrava resistente (por exemplo, classificar imagens de objetos do dia a dia). Então, tentaremos encontrar esse famoso conjunto de parâmetros (ou, pelo menos, um conjunto satisfatório de parâmetros) automaticamente, com outro programa que testará um grande número de possibilidades de configuração de parâmetros, comparando o seu desempenho na conclusão da tarefa pretendida. Uma forma muito eficaz de orientar este programa de configuração automática de parâmetros é fornecer-lhe inúmeros exemplos da tarefa em questão (ou seja, inúmeros exemplos de imagens já classificadas de acordo com o que retratam). Se tudo correr bem, o resultado é um programa corretamente parametrizado que reproduz os exemplos (dizemos que aprendemos um modelo ou treinámos um algoritmo… mas continua a ser uma parametrização automática).
C. Os algoritmos incorporam os objetivos e as tendências (intencionais e não intencionais) dos seres humanos
Com esta compreensão básica da aprendizagem automática, é mais fácil perceber como um processo de aprendizagem «bem-sucedido» pode, ainda assim, conduzir a um programa altamente problemático. Se orientarmos uma parametrização automática com dados tendenciosos desde o início (que reflitam discriminação sexista ou racial, por exemplo), uma aprendizagem bem-sucedida resultará num programa que reproduz esses preconceitos ou discriminações. [3] Da mesma forma, se «treinarmos» um programa com bases de exemplos não representativas (por exemplo, porque grupos ou minorias não estão representados nos dados), é muito provável que o programa não funcione tão bem para todas as pessoas que o utilizarão ou a quem será aplicado.
Em geral, é muito importante desmistificar a ilusão de que a tecnologia digital é uma mera ferramenta neutra que os humanos criam, guardam e mobilizam apenas quando necessário. Em vez disso, a tecnologia digital, como qualquer tecnologia, deve ser concebida como redes de atores humanos inter-relacionados (cientistas da computação, designers, programadores, engenheiros, utilizadores, etc.) e componentes não humanos (servidores, minas de terras raras e de lítio, recursos hídricos mobilizados para o arrefecimento de centros de dados, etc.). Consequentemente, o comportamento e os resultados dos sistemas de IA (e, de forma mais ampla, das tecnologias digitais) resultarão
sempre de (e refletirão) aquilo com que os humanos, voluntária ou involuntariamente, os criaram (programação, exemplos em conjuntos de dados de treino, impactos socioecológicos, etc.).
Em particular, a IA irá refletir, propagar e possivelmente reforçar as assimetrias de poder na sociedade. Como a IA é uma tecnologia centralizadora (centralizando dados, poder de computação e talento humano), ela retira poder àqueles excluídos do centro. Desta forma, a IA é antidemocrática. Mas as sociedades democráticas podem controlar as influências antidemocráticas se forem suficientemente inteligentes para as detetar e determinar como mantê-las sob o «controlo» democrático. Aqueles que controlam a IA (sejam empresários, funcionários governamentais, engenheiros, etc.) precisam de ser sensíveis àqueles que estão sujeitos ao seu poder..
Isto significa que delegar algumas tarefas de governação a algoritmos (de aprendizagem automática) e sistemas de IA só pode revelar-se benéfico se for feito com extrema cautela. O ponto de vista de Antoinette Rouvroy (filósofa e advogada belga) é particularmente esclarecedor a este respeito: [4]
A aprendizagem automática e, de forma mais geral, a capacidade das máquinas de nos consciencializar para as regularidades do mundo que só podem ser detetadas em grandes quantidades, destinam-se a aumentar a nossa inteligência individual e coletiva, dando-nos acesso a uma «realidade estéreo» que é simultaneamente analógica e digital, e que pode melhorar a forma como nos governamos e coordenamos o nosso comportamento de maneira sustentável (desde que, no entanto, reconheçamos que os algoritmos são, tal como os decisores humanos, sempre «suscetíveis de preconceitos» à sua maneira, mesmo que esses «preconceitos» não sejam fáceis de detetar porque parecem ser «reabsorvidos» nas camadas ocultas das redes neurais).
Na sua crítica à «governamentalidade algorítmica», Antoinette Rouvroy alerta para o risco de uma delegação demasiado ampla e indiscriminada da tomada de decisões às máquinas, o que levaria a substituir as nossas formas humanas e vivas de enunciar, verificar e justificar as nossas convicções por «um regime de otimização e antecipação»: [5]
As categorias ou formas (ideologicamente contestáveis, subjetivamente tendenciosas, sempre um pouco «inadequadas», etc.) através das quais estamos social, cultural, política ou ideologicamente predispostos a perceber e avaliar os acontecimentos do mundo e dos seus habitantes são assim substituídas pela deteção de sinais em «tempo real» e por uma avaliação antecipada não do que as pessoas ou os acontecimentos «são», mas, no modo do «crédito», das oportunidades, propensões, riscos, etc. que as suas formas de vida «carregam». O objetivo da modelação algorítmica já não é produzir «conhecimento», mas fornecer informação operacional que não seja nem verdadeira nem falsa, mas suficientemente fiável para justificar estratégias de ação preventiva.
Além disso, como já foi referido, os algoritmos não devem ser entendidos como processadores neutros de factos. Os factos em si nunca são neutros. Os seres humanos estão sempre investidos da responsabilidade de estabelecer os factos, interpretar e dar sentido à realidade. Trata-se, evidentemente, de um esforço falível que pode ser pervertido. Mas os algoritmos fazem menos (e não mais) do que isto:[6]
Para os algoritmos, os únicos «factos» são os dados, tornados amnésicos quanto às condições em que foram produzidos. No entanto, os factos, ou dados, nunca são mais do que o reflexo ou os efeitos das relações de poder, da dominação, das práticas discriminatórias ou da estigmatização de que a realidade social está repleta.
[1] Como ilustração marcante desta questão das desigualdades no acesso aos serviços digitais básicos, um inquérito belga recente salientou que, em 2023, «40 % dos belgas continuam numa situação de vulnerabilidade digital, devido a competências digitais insuficientes ou à não utilização da Internet. A aceleração da digitalização da nossa sociedade não está, portanto, a conduzir a um aumento proporcional das competências digitais» (https://kbs-frb.be/fr/quatre-belges-sur-dix-toujours-risque-dexclusion-numerique).
[2] Mensagem de Sua Santidade o Papa Francisco por ocasião do 57.º Dia Mundial da Paz, 1 de janeiro de 2024, https://www.vatican.va/content/francesco/en/messages/peace/documents/20231208-messaggio-57giornatamondiale-pace2024.html
[3] Um exemplo entre muitos outros (neste caso, com IA generativa): https://restofworld.org/2023/ai-image-stereotypes/
[4] Entrevista a Antoinette Rouvroy sobre o tema da «governamentalidade algorítmica» (2 de dezembro de 2019, por Catherine De Poortere) (tradução nossa): https://www.pointculture.be/articles/focus/gouvernementalite-algorithmique-3-questions-antoinette-rouvroy-et-hugues-bersini/.
[5] Ibid. (a nossa tradução).
[6] Ibid. (a nossa tradução).
