Ser humano na era da neurociência e da inteligência artificial implica explorar cuidadosamente os pontos de intersecção da complexidade, onde ideias válidas se encontram, no entanto, em tensão, revelando subtilezas e desafios que não devem ser ignorados. Cada página expressa a(s) tensão(ões) existente(s) entre as ideias e no seio de cada tema, que emergiram nas discussões coletivas, e é depois complementada por reflexões dos investigadores da rede NHNAI.
Complexidade na democracia #2: A IA ao serviço da inteligência coletiva humana
Muitos participantes salientam que as políticas e a tomada de decisões devem continuar a basear-se na interação humana e na reflexão e deliberação coletivas. Existe um amplo consenso contra o governo por máquinas (tecnocracia), bem como um amplo consenso sobre o facto de que a IA não deve substituir os seres humanos na tomada de decisões, em particular no domínio fundamental das decisões políticas coletivas. Pelo contrário, as relações humanas e a empatia são fundamentais para a tomada de decisões coletivas e devem ser preservadas e reforçadas.
A este respeito, as ferramentas digitais já proporcionaram enormes possibilidades de troca de informação e debates coletivos a escalas geográficas e a um ritmo temporal sem precedentes. Com a Internet e as redes sociais, a partilha de informação tornou-se extremamente liberalizada.
No entanto, esta liberalização do nosso panorama informativo coletivo também desencadeou o problema de haver demasiada informação disponível e a necessidade de a editorializar de forma mais eficiente. Neste contexto, as discussões refletem sérias preocupações sobre os algoritmos de recomendação que podem reforçar preconceitos e o isolamento de determinados grupos, criando câmaras de eco e bolhas de informação. Estes processos podem até ser explorados para manipulação deliberada. Em qualquer caso, isto conduz ao enfraquecimento da nossa relação coletiva com a veracidade nos debates políticos e sociais, diminuindo assim, em vez de reforçar, as nossas capacidades de inteligência coletiva e a nossa capacidade de sermos pessoas genuínas na nossa vida de cidadãos com autonomia.
Alguns participantes destacam, a este respeito, o problema do sensacionalismo mediático e a tendência para cair no sensacionalismo (incluindo o sensacionalismo em torno da própria IA), o que agrava o problema da editorialização da informação, enquanto um jornalismo mais responsável é mais necessário do que nunca.
Em geral, os participantes insistem na necessidade de fomentar o pensamento crítico para melhor navegar pelos nossos panoramas informativos e para apoiar a nossa inteligência coletiva e as nossas capacidades de elaboração de políticas e tomada de decisões. A IA poderia ser de grande ajuda a este respeito, por exemplo, contribuindo para melhorar a qualidade da informação ou apoiando a luta contra as notícias falsas (deep fakes) e a sua disseminação (moderação das redes sociais).
Perspetivas da rede académica da NHNAI:
Com base nas reflexões de Brian P. Green (professor de Ética da IA, Diretor de Ética Tecnológica no Markkula Center for Applied Ethics (Universidade de Santa Clara, EUA), Mathieu Guillermin (professor associado de Ética das Novas Tecnologias (UCLy (Universidade Católica de Lyon), UR CONFLUENCE : Ciências e Humanidades (EA 1598), Lyon, França), Nathanaël Laurent (professor associado de Filosofia da Biologia (Universidade de Namur, ESPHIN, Bélgica) e Yves Poullet (professor de Direito das Novas Tecnologias da Informação e Comunicação (Universidade de Namur, ESPHIN – CRIDS, Bélgica)
A saúde das nossas sociedades democráticas depende, em parte, da qualidade do panorama informativo e da inteligência coletiva dos cidadãos. Estes dois aspetos são profundamente influenciados pelas tecnologias digitais e de inteligência artificial.
A. IA, panorama da informação e inteligência coletiva
Dada a enorme quantidade de conteúdo disponível na Internet (mesmo limitando-nos às plataformas digitais), a editorialização (pelo menos) parcialmente automatizada da informação é inevitável. As ferramentas de IA destinadas a criar perfis de utilizadores e a recomendar-lhes conteúdos são, por isso, elementos tecnológicos fundamentais. No entanto, devemos questionar-nos sobre os critérios e os objetivos destas operações de criação de perfis e de recomendação. Como explica Gerald Bronner,[1] a liberalização dos nossos panoramas informativos, associada a um modelo económico baseado na gratuidade, conduz a uma concorrência feroz para captar o máximo possível da atenção dos utilizadores. Os algoritmos de recomendação são concebidos para promover conteúdos que levem os utilizadores a permanecerem ligados (garantindo assim a máxima exposição à publicidade personalizada e a recolha de dados mais eficiente). Isto é muito diferente dos sistemas de recomendação que promoveriam conteúdos propícios ao florescimento (que muitas vezes podem ser menos atraentes à primeira vista).
Os sistemas de perfilagem e recomendação podem, em particular, conduzir a efeitos prejudiciais (intencionais ou não) no domínio político. As câmaras de eco podem levar a uma forte polarização da opinião pública. O conteúdo digital pode ser adaptado para explorar os sistemas de recomendação e as câmaras de eco. Isto é particularmente verdade no caso das notícias falsas profundas, produzidas cada vez mais facilmente com ferramentas de IA generativa. Além disso, a concentração de receitas e poder económico nas mãos de grandes plataformas pode conduzir à concentração de poder político, especialmente em termos de influência sobre a opinião pública. Isto pode enfraquecer profundamente os alicerces e as condições básicas de possibilidade das sociedades democráticas, por exemplo, ameaçando a organização de eleições livres e transparentes. As câmaras de eco e as notícias falsas (deep fake) podem mesmo ser utilizadas como armas de desestabilização política em conflitos geoestratégicos. Os sistemas de recomendação e de criação de perfis também poderiam ser utilizados por regimes autoritários para reforçar o seu controlo sobre as populações. Ao mesmo tempo, a tecnologia de IA pode ajudar a combater estas ameaças. Poderíamos falar de uma espécie de guerra de IA,[2] sistemas defensivos a combater sistemas ofensivos, tendo o panorama informativo como campo de batalha. Os sistemas de IA podem ser treinados para detetar imagens ou vídeos deepfake. Seria possível desenvolver sistemas de recomendação e editorialização que limitassem a viralidade das notícias falsas.
Em termos globais, podemos esperar que a IA nos ajude a melhorar o nosso panorama informativo e a nossa inteligência coletiva (recomendações de conteúdos mais prósperos e propícios, combate às notícias falsas, …), mas isso dependerá em grande medida da nossa capacidade de incentivar o desenvolvimento da tecnologia certa e a adoção das utilizações mais positivas para promover a literacia digital e ética. Isto significa, em particular, promover a literacia digital e ética para permitir que os atores envolvidos (desde os programadores aos utilizadores) estabeleçam condições adequadas. Podemos, por exemplo, mencionar a reflexão necessária sobre o modelo económico subjacente às tecnologias digitais e as questões levantadas pela miragem da gratuidade).
Mais fundamentalmente, podemos também refletir de forma frutífera sobre o significado de expressões como «tecnologia adequada» e «utilizações positivas». Utilizar a IA para apoiar a inteligência humana ou o seu florescimento, e não para os sufocar, é outra versão da questão do «equilíbrio» que percorre vários temas de discussão. Se queremos que a IA apoie os seres humanos adultos a serem «adultos» e nos opomos à utilização da IA para nos transformar em «crianças» dependentes, com a IA como nosso «pai», há muito mais a dizer aqui sobre que tipos de apoio são bons e quais são maus. Uma parte da questão diz respeito ao aperfeiçoamento da nossa compreensão do que é esta inteligência coletiva ou humana que esperamos que a IA melhore.
B. O que significa promover a inteligência coletiva humana?
Pode revelar-se proveitoso questionar as nossas ideias preconcebidas sobre o que significa ser racional ou inteligente, sobre como podemos/devemos proceder para desenvolver ideias que mereçam ser chamadas de conhecimento, que mereçam ser consideradas verdadeiras. É certamente tentador pensar que ganhamos em racionalidade ou inteligência ao eliminar dos nossos procedimentos de inferência julgamentos subjetivos, escolhas, compromissos, questões de valor, etc. … Esta visão encoraja certamente a ideia de que os algoritmos e as máquinas de aprendizagem têm uma vantagem inicial, uma vez que se baseiam, em última análise, exclusivamente em cálculos lógico-matemáticos sobre dados. Dotados de uma neutralidade superior, os algoritmos poderiam assim ajudar os seres humanos a eliminar a poluição da sua subjetividade para melhorar a sua racionalidade. Esta perspetiva pode também levar a atribuir grande crédito à governamentalidade algorítmica que evocámos noutro nexo de complexidade. [3]
No entanto, a história recente e a filosofia da ciência (pelo menos desde a segunda metade do século XX) mostraram-nos os limites de uma concepção tão puramente algorítmica ou processual da racionalidade e da inteligência. Qualquer abordagem científica, mesmo a mais experimental, depende inevitavelmente de julgamentos e arbitragens humanas (relativos ao vocabulário básico a utilizar, às principais orientações metodológicas, aos objetivos a alcançar… mas também no que diz respeito a intuições fundamentais, como a ideia de que a observação empírica não nos engana sistematicamente).[4] Os programas de computador não são exceção a esta indispensabilidade do julgamento humano. Mesmo no caso da aprendizagem automática, os humanos devem, por exemplo, arbitrar sobre a qualidade do corpus de exemplos, sobre o tipo de programa com parâmetros livres que tentaremos ajustar automaticamente, ou sobre o próprio procedimento de parametrização automática. [5] Este tipo de julgamentos ou arbitragens não são feitos «arbitrariamente» (no sentido de que cada um poderia fazer o que bem entendesse no seu canto). É necessária uma grande dose de competência e experiência, e nunca será apenas uma questão de aplicar critérios ou procedimentos de forma puramente neutra ou objetiva.
Ser inteligente ou racional é, evidentemente, ser capaz de aplicar critérios, procedimentos ou algoritmos corretamente (de forma objetiva ou neutra), mas é também, e talvez acima de tudo, ser capaz de julgar a qualidade dos critérios e procedimentos, ter uma atitude reflexiva e crítica em relação ao que estamos a fazer… e, portanto, ser capaz de julgar e arbitrar de forma falível, de cometer erros por vezes, de se corrigir, de evoluir (e de nos ajudarmos mutuamente neste sentido, de colaborarmos com boa vontade)… Ser inteligente neste sentido é algo fundamentalmente vivo, algo que cada um de nós só pode empreender enraizado na nossa própria experiência vivida (com toda a riqueza, mas também com os limites que isso implica)[6] e numa colaboração saudável com os outros.
Esta dimensão coletiva e relacional da inteligência humana é de importância primordial e leva-nos de volta ao tema da democracia como algo que depende de um espaço intersubjetivo robusto para a deliberação. Torno-me mais inteligente quando interajo com outras pessoas, por exemplo, porque elas usam categorizações diferentes (ou usam as minhas de forma diferente). A democracia e a deliberação coletiva são mais do que apenas a concatenação cega de opiniões individuais, com predominância concedida às que são aceites pela maioria. É, antes de mais nada, uma forma de viver e prosperar em conjunto. Não se pode esperar que os sistemas de IA, por mais «inteligentes» que sejam, substituam ou automatizem esta forma de inteligência humana coletiva profunda. Isso não seria, de forma alguma, um apoio aos seres humanos, mas sim uma espécie de aniquilação da sua vida e inteligência. A questão-chave que devemos, portanto, colocar é: como é que a máquina nos pode ajudar a ser mais inteligentes? À medida que se tornam atores cada vez mais omnipresentes no nosso ambiente social (podemos dizer que formamos sistemas tecno-sociais ou híbridos), a tecnologia digital (incluindo a IA) não só nos informa, como também nos transforma. Temos de refletir sobre esta transformação e sobre o rumo que gostaríamos que ela nos levasse. Como pode a tecnologia digital contribuir para aprofundar as nossas experiências de vida que nos tornam mais sábios e experientes? Que tipo de sistemas de IA e serviços digitais irão verdadeiramente fomentar a nossa inteligência coletiva e humana?
[1] Gérald Bronner (2012), Apocalypse cognitive, Presses Universitaires de France
[2] https://www.latribune.fr/opinions/tribunes/lutte-contre-la-desinformation-la-guerre-des-intelligences-artificielles-997066.html
[3] Ver: AI and digital technologies for public services and democratic life.
[4] Philip Kitcher, Science, Truth and Democracy, New York, NY: Oxford University Press, 2001, ISBN : 0-19-514583-6. Mathieu Guillermin, «Non-neutralité sans relativisme ? Le rôle crucial de la rationalité évaluative». Dans : Laurence Brière, Mélissa Lieutenant-Gosselin, Florence Piron (dir.), Et si la recherche scientifique ne pouvait pas être neutre ? Éditions Science et bien commun, 2019, 315-338. https://scienceetbiencommun.pressbooks.pub/neutralite/chapter/guillermin/
[5] Para mais informações, consulte a contribuição especializada no contexto de complexidade intitulado: AI and digital technologies for public services and democratic life, especially section B. Are algorithms more neutral than humans?
[6] Veja, por exemplo: François Laplantine, The Life of the Senses: Introduction to a Modal Anthropology, Routledge (Sensory Studies), 2020, 176 p., ISBN 9781472531964
