Ser humano na era da neurociência e da inteligência artificial implica explorar cuidadosamente os pontos de intersecção da complexidade, onde ideias válidas se encontram, no entanto, em tensão, revelando subtilezas e desafios que não devem ser ignorados. Cada página expressa a(s) tensão(ões) existente(s) entre as ideias e no seio de cada tema, que emergiram nas discussões coletivas, e é depois complementada por reflexões dos investigadores da rede NHNAI.
Complexidade na democracia #6: O desafio democrático da regulamentação
Surge um consenso claro de que novas tecnologias poderosas, como estas, exigem governação e regulamentação. É fundamental promover uma utilização ponderada da tecnologia de IA (incluindo videovigilância, algoritmos, big data e redes sociais), sempre sob controlo humano. Precisamos de implementar ferramentas normativas atualizadas e direitos jurídicos para os cidadãos (o que constitui uma preocupação multidisciplinar); desenvolver e implementar códigos éticos para grupos profissionais (por exemplo, programadores web); e ter especial cuidado com os grupos vulneráveis (evitando, por exemplo, a automatização da discriminação).
No entanto, parte dos debates também salienta que a regulamentação levanta muitas questões delicadas, tornando-a um desafio muito difícil. Pode-se, por exemplo, mencionar o tema da moderação das redes sociais: quem é o ator adequado? As tecnologias de IA podem contribuir, mas qual é o lugar dos seres humanos? Tal tema revela questões muito fundamentais sobre a verdade, a democracia e a legitimidade. De forma mais ampla, a regulamentação da IA é desafiante por várias razões: o ritmo do desenvolvimento tecnológico, a ofuscação dos padrões de responsabilidade (com as tecnologias digitais em geral e, mais especificamente, com a aprendizagem automática), o acesso frequentemente «fácil» a ferramentas poderosas (nas mãos de atores mal-intencionados, tecnologias como o reconhecimento de imagens/facial podem tornar-se extremamente prejudiciais), a escala global da investigação e desenvolvimento (com a diversidade de sistemas de valores em todo o mundo, bem como constelações de conflitos de interesses), … Deve-se também ter em consideração o modelo económico ou empresarial associado às tecnologias digitais (modelos gratuitos baseados no envolvimento dos utilizadores e na recolha de dados podem dificultar o alinhamento com objetivos de bem-estar humano).
Para fazer face ao desafio da regulamentação da IA, muitos participantes insistem na importância da literacia digital e do pensamento crítico, que devem ser promovidos. É muito importante referir que alguns participantes destacam a necessidade premente de combater o sentimento de impotência que os cidadãos podem sentir quando confrontados com tais desafios de regulamentação.
Perspetivas da rede académica da NHNAI:
A. Do ponto de vista do advogado
Tendo em conta a complexidade do desafio que representa a regulamentação da IA, convém recordar alguns princípios jurídicos básicos, nomeadamente a importância do Estado de direito, enquanto princípio fundamental para garantir uma democracia viva. O princípio do Estado de direito implica que, para limitar as nossas liberdades ou para prevenir o risco de o fazer, é necessário recorrer a medidas legislativas, expressas de forma clara e exaustiva, publicadas, com um conteúdo estritamente proporcionado em relação ao seu objetivo e aceitável numa sociedade democrática.
No que diz respeito ao conteúdo da regulamentação da IA, a transparência sobre o funcionamento e os objetivos prosseguidos pelo responsável pelo tratamento de dados deve ser reforçada, a par do direito de contestar a utilização dos dados pessoais (nomeadamente para proteger a autonomia das pessoas). Na mesma linha, devemos afirmar a responsabilização dos criadores de IA. Este princípio de responsabilização leva a impor-lhes uma avaliação multidisciplinar e multilateral das aplicações que estão a desenvolver e dos riscos associados.
Além disso, cabe aos Estados criar um fórum onde a sociedade possa debater abertamente os aspetos éticos de certas grandes inovações públicas.
B. Promover debates sociais abertos sobre questões éticas
Com base nas reflexões de Brian P. Green (professor de Ética da IA e diretor de Ética Tecnológica no Markkula Center for Applied Ethics (Universidade de Santa Clara, EUA)) e de Mathieu Guillermin (professor associado de Ética das Novas Tecnologias na UCLy (Universidade Católica de Lyon), UR CONFLUENCE: Ciências e Humanidades (EA 1598), Lyon, França)
Isto remete para a questão de saber onde deve ocorrer a intervenção para «proteger» as pessoas da IA. Devemos confiar que os indivíduos tenham formação suficiente para se protegerem a si próprios? Ou que os políticos tenham formação suficiente para proteger os cidadãos? Ou que as empresas tenham conhecimentos suficientes? Ou nos engenheiros que criam o produto? Todas as partes interessadas envolvidas precisam de ter uma palavra a dizer nos seus próprios domínios de ação. Nenhum grupo pode ser responsável por tudo, porque o problema da literacia e do controlo da IA é demasiado complexo e requer muitos pontos de intervenção para o orientar para o bem.
Algumas coisas devem ser automatizadas e outras não; como sabemos quais são quais, e qual é a nossa justificação para fazer essa distinção? Precisamos de um «porquê» para determinar o que é legitimamente automatizável e o que não é. Explorar coletivamente esta questão do «porquê», a questão das nossas necessidades, pode revelar-se extremamente complicado. À medida que a nossa civilização se acelera, parece não haver como opor-se à força da delegação através da automatização da IA, porque os humanos simplesmente não conseguem ser suficientemente rápidos. Já vemos isto em áreas como a negociação de alta frequência e a ofensiva e defesa cibernéticas. Quando perguntamos: o que pode ser delegado e o que não pode? Esta não é apenas uma questão sobre o que é tecnicamente viável. Significa também questionar-se PORQUÊ?
Esta questão sobre o «porquê» leva-nos ao domínio da reflexão avaliativa, dos valores e interesses. Tal como mencionado por alguns participantes nas discussões, esta reflexão pode revelar-se difícil, uma vez que os valores e interesses podem ser altamente divergentes. No entanto, pode ser interessante adotar uma abordagem matizada. Embora possa haver claramente fortes desacordos em questões morais e éticas, isso não significa necessariamente que seja impossível encontrar um terreno comum. Como primeira aproximação, parece haver alguns valores fundamentais a partir dos quais se pode construir. Alguns autores sugerem 5 valores que poderiam ser universais: sobreviver, reproduzir-se, viver em sociedade, educar os jovens, buscar a verdade.[1] Estes valores poderiam ser considerados objetivos, uma vez que são razoáveis para uma ampla variedade de pessoas, porque existem pela lógica, neste caso pela prova por contradição / reductio ad absurdum.
Além disso, a existência de fortes desacordos não significa, por si só, que haja fortes divergências entre os valores que as pessoas defendem. Muitas vezes, os valores são partilhados, mas podem entrar em tensão e, então, as pessoas discordam sobre a prioridade a dar a alguns em detrimento de outros (segurança versus proteção da privacidade, liberdade individual versus bem comum, etc.). Isto significa, portanto, que devemos sempre refletir sobre as nossas divergências e o que elas implicam (pode haver mais consenso do que pensamos à primeira vista, mais terreno para divergências construtivas).
Isto permite-nos destacar a importância de reforçar as capacidades de todos os intervenientes para participarem nestas discussões sociais abertas. Como acabámos de ver, isso exige a promoção do pensamento crítico. Também requer o cultivo da literacia tecnológica e digital para garantir discussões tão informadas quanto possível.
