Ser humano na era da neurociência e da inteligência artificial implica explorar cuidadosamente os pontos de intersecção da complexidade, onde ideias válidas se encontram, no entanto, em tensão, revelando subtilezas e desafios que não devem ser ignorados. Cada página expressa a(s) tensão(ões) existente(s) entre as ideias e no seio de cada tema, que emergiram nas discussões coletivas, e é depois complementada por reflexões dos investigadores da rede NHNAI.
Complexidade da democracia #3: Garantir a segurança sem comprometer os direitos fundamentais
Os participantes nos debates reconhecem o interesse da utilização de tecnologias de IA em muitos aspetos das nossas vidas, em particular para uma melhor convivência nas nossas sociedades democráticas. Para além do apoio que a IA pode vir a proporcionar à tomada de decisões políticas coletivas ou à inteligência coletiva (tema abordado em nexos de complexidade específicos[1]), alguns participantes destacam o facto de a IA poder contribuir para melhorar a segurança, por exemplo, através de capacidades reforçadas de videovigilância. Outros salientam os benefícios da IA em termos de segurança, com uma maior capacidade de prever e gerir crises, tais como epidemias ou catástrofes naturais.
Ao mesmo tempo, as discussões manifestam claramente preocupações sobre os direitos fundamentais e a proteção da privacidade, especialmente a privacidade mental (já com algoritmos de perfilagem, e ainda mais quando a neurociência é adicionada ao quadro). Os participantes preocupam-se notavelmente com o facto de entidades privadas e públicas terem acesso massivo a todos os tipos de dados pessoais (sobre saúde, opiniões, escolhas, hábitos e costumes…), colocando assim uma pressão sobre a privacidade.
O enfraquecimento da privacidade e o esbatimento dos limites entre as esferas pública e privada podem, nomeadamente, impedir a liberdade de pensamento e de expressão, bem como a vida democrática e social. Além disso, os participantes insistem no facto de que as melhorias em matéria de segurança e proteção não devem ser alcançadas à custa dos mais vulneráveis, que podem enfrentar mais dificuldades na afirmação dos seus direitos. Em geral, as pessoas nunca devem ser reduzidas aos seus dados.
[1] Veja os seguintes nexos de complexidade: AI and digital technologies for public services and democratic life and AI at the service of human collective intelligence.
Perspetivas da rede académica da NHNAI:
Com base nas reflexões de Federico Giorgi (investigador de pós-doutoramento em Filosofia (Universidade de Namur, ESPHIN, Bélgica)), Brian P. Green (professor de Ética da IA e Diretor de Ética Tecnológica no Markkula Center for Applied Ethics (Universidade de Santa Clara, EUA)), Nathanaël Laurent (professor associado de Filosofia da Biologia (Université de Namur, ESPHIN, Bélgica) e Yves Poullet (professor de Direito das Novas Tecnologias da Informação e Comunicação (Université de Namur, ESPHIN – CRIDS, Bélgica)
A. A privacidade, um pilar fundamental da democracia
A proteção da privacidade é um elemento fundamental da vida em sociedade, especialmente nas sociedades democráticas. O direito de manter certas coisas em segredo, de as manter fora da esfera pública, é extremamente fundamental. Como recorda o filósofo belga Corentin de Salle, a privacidade é extremamente importante por várias razões básicas:[1]
Em primeiro lugar, para preservar a dignidade das pessoas. Por uma questão de decência, poder-se-ia dizer. Em segundo lugar, porque revelar coisas que deveriam permanecer em segredo torna as pessoas vulneráveis. Pode minar a sua autoridade, caso tenham responsabilidades. Torna mais difícil para elas assumirem o papel social que devem desempenhar nas suas vidas profissionais. Pode também levar à revelação das suas fraquezas, permitindo que pessoas sem escrúpulos as explorem para manipular, defraudar, roubar a sua identidade ou causar-lhes danos. Por fim, proteger a privacidade é importante porque todos precisam de um refúgio, um lugar onde possam recarregar as baterias sem se preocuparem com o que dizem, fazem ou pensam. (…)
Além disso, a privacidade «não é uma liberdade fundamental ao lado de outras liberdades, mas uma condição para outras liberdades. Em particular, a liberdade de expressão e a liberdade de circulação. [Como diz Yves Poullet, se eu souber] que estou constantemente a ser espiado, já não me atreverei a expressar-me como desejo, mesmo em contextos mais íntimos e privados. Se me sinto controlado a todo o momento, como posso circular como desejo?»[2] Com a neurotecnologia emergente a proporcionar novos poderes de análise e manipulação do funcionamento cerebral, as questões de privacidade podem tornar-se ainda mais agudas, com a possibilidade de minar a nossa integridade mental e identidade psicológica. Talvez seja altura de reconhecer os «neurodireitos», como alguns países já fizeram.
Outra forma de encarar os fundamentos do direito à privacidade é a questão da diferença de poder entre o indivíduo e o Estado. Como o conhecimento é poder, e o Estado possui muito mais conhecimento e poder do que o indivíduo, o Estado deve tornar-se mais transparente para o indivíduo (liberdade de informação sobre o governo, sigilo governamental de âmbito restrito), e o indivíduo mais opaco para o Estado (direito à privacidade). A tecnologia digital e os sistemas de IA, de certa forma, ampliam este problema de assimetria de poder, uma vez que a IA é um poder que pode ser controlado pelos Estados, mas também por outras organizações, e estas organizações devem, da mesma forma, tornar-se mais transparentes para o público, devendo o público, por sua vez, ser protegido dessas organizações através dos direitos à privacidade.
O desejo de segurança pública através da vigilância está, evidentemente, em tensão com o direito à privacidade acima referido. O equilíbrio entre segurança e privacidade é extremamente contextual e, por isso, variará de lugar para lugar, mas, em geral, a transparência do lado governamental (ou de organizações poderosas) da equação pode ser igualmente reforçada, de modo a continuar a proteger os indivíduos, mesmo que estes estejam a ser mais vigiados. É também importante referir que a privacidade nunca deve ser considerada a partir de uma abordagem puramente individualista. Por exemplo, no que diz respeito à tecnologia de criação de perfis e de recomendação: devemos ter em conta o facto de que os nossos perfis são deduzidos não só a partir dos nossos dados, mas também a partir de big data, onde os nossos dados se misturam com dados sobre outras pessoas. Isto significa que a nossa decisão individual de permitir a recolha e o tratamento dos nossos dados por aplicações de IA também envolve, de alguma forma, outras pessoas. Os nossos dados podem ser utilizados para criar perfis de outras pessoas que recusaram a recolha e o tratamento dos seus dados. Na verdade, por trás da exploração dos dados (pessoais) das pessoas, existe uma questão global sobre o tipo de modelo social e económico em que queremos viver, uma questão que vai além da mera questão da vigilância dos cidadãos pelos Estados.
B. Capitalismo de vigilância
A este respeito, poderíamos referir-nos ao livro de Zuboff, The Age of Surveillance Capitalism (2018). Zuboff, professora emérita da Harvard Business School conhecida pela sua investigação sobre a tecnologia no local de trabalho, assumiu uma grande tarefa: criar um conjunto de termos que captem o entusiasmo em torno das empresas tecnológicas modernas. Ela argumenta que o capitalismo de vigilância ganha dinheiro através da recolha, processamento e análise de dados sobre o comportamento das pessoas, utilizando métodos que incentivam a «indiferença radical», uma forma de observar sem testemunhas. Isto distingue-o do capitalismo industrial, que lucra com a exploração de recursos naturais e da mão-de-obra. As empresas de vigilância descobriram uma riqueza de informação nos dados que recolhem para uso próprio e perceberam que podiam vender este «excesso de dados» aos anunciantes. Para elas, as pessoas por trás dos dados são meros acessórios.
Zuboff vê as estruturas económicas resultantes como completamente novas: uma forma desonesta de capitalismo. Enquanto as empresas anteriores dependiam da «acumulação primitiva», as empresas de vigilância como o Facebook e o Google dependem da «desposse digital» contínua, um conceito que ela retirou de David Harvey. Cada um de nós é constantemente tornado compreensível e lucrativo para estas empresas. Mais do que apenas a vigilância governamental que visa limitar o livre arbítrio, Zuboff receia que estas empresas utilizem o livre arbítrio humano para atingir os seus objetivos, baseando-se nos resultados previsíveis que nós fornecemos.
Para Zuboff, isto cria uma situação preocupante no que diz respeito à ideia central do liberalismo moderno: o indivíduo. Ela encara o capitalismo de vigilância como uma extensão da investigação de B.F. Skinner em psicologia, onde as pessoas são vistas como nada mais do que os seus comportamentos e reflexos. Skinner pretendia melhorar a coesão social e a eficiência no local de trabalho, independentemente da escolha individual. Zuboff destaca exemplos que mostram como o capitalismo de vigilância se relaciona com este tipo de behaviorismo, tais como o desenvolvimento da biometria e a investigação de Rosalind Picard sobre computação afetiva para utilizadores autistas, que foi posteriormente adotada por startups de vigilância. Tudo isto demonstra que o capitalismo de vigilância está gradualmente a minar o nosso direito essencial à liberdade pessoal.
[1] De Salle C., Tellier S., De Cooman J., Petit N., Duquenne E., Lombardo A., Hublet L. & Leduc P. (2018) La vie privée à l’ère des big data, Les Études du Centre Jean Gol, p. 9. https://www.cjg.be/les-etudes-du-cjg-la-vie-privee-a-lere-des-big-data/
[2] Ibid.
