Ser humano na era da neurociência e da inteligência artificial implica explorar cuidadosamente os pontos de intersecção da complexidade, onde ideias válidas se encontram, no entanto, em tensão, revelando subtilezas e desafios que não devem ser ignorados. Cada página expressa a(s) tensão(ões) existente(s) entre as ideias e no seio de cada tema, que emergiram nas discussões coletivas, e é depois complementada por reflexões dos investigadores da rede NHNAI.
Complexidade transversal n.º 2: Estabelecer limites e regulamentação, mesmo que isso possa revelar-se um desafio
(com base na ideia global e transversal que dá nome ao conceito: estabelecer limites e regulamentação, mesmo que isso possa revelar-se um desafio)
Existe uma forte necessidade de regulamentação e normas para garantir que as tecnologias de IA e NS produzam resultados positivos. As normas e a regulamentação são fundamentais para permitir a construção de confiança e a proteção das pessoas na implementação de novas tecnologias. A IA deve respeitar os valores humanos (equidade, imparcialidade, …) e deve ser centrada no ser humano (visando o bem-estar humano). As tecnologias de IA e NS devem beneficiar todos (é crucial combater a exclusão das pessoas pobres e vulneráveis).
No entanto, a regulamentação levanta muitas questões delicadas, tornando-a um desafio muito difícil. Entre essas questões, podem-se citar o ritmo do desenvolvimento tecnológico, a ofuscação dos padrões de responsabilidade (com as tecnologias digitais em geral e, mais especificamente, com a aprendizagem automática), o acesso frequentemente «fácil» a ferramentas poderosas (nas mãos de atores mal-intencionados, tecnologias como o reconhecimento de imagens/facial podem tornar-se extremamente prejudiciais), a escala global da investigação e desenvolvimento (com a diversidade de sistemas de valores em todo o mundo, bem como constelações de conflitos de interesses), a dificuldade em fazer cumprir as regulamentações (num contexto tão diversificado e internacional).
Em termos gerais, a regulamentação deve promover utilizações razoáveis e sólidas das tecnologias de IA e NS. No entanto, identificar o que é razoável e adequado e o que não é pode revelar-se extremamente difícil (tomemos o caso da moderação das redes sociais, por exemplo: quem é o interveniente adequado? Ou o caso das tecnologias de saúde com zonas cinzentas entre utilizações curativas e de melhoria: quem pode decidir se uma patologia requer/justifica a utilização de uma determinada tecnologia de saúde?). As partes interessadas, os profissionais, os cidadãos e os intervenientes económicos/industriais devem ser envolvidos nos processos de regulamentação.
Perspetivas da rede académica da NHNAI:
Como os participantes deixam bem claro, a regulamentação será vital para garantir que a IA seja orientada para as suas melhores aplicações e afastada das piores. Esta é uma preocupação séria de todos os parceiros globais do projeto NHNAI, e essa preocupação é acentuada pelo conhecimento de que atores mal-intencionados ou indiferentes tentarão explorar — ou, pelo menos, não terão em mente o bem comum — ao implementarem sistemas de IA no nosso mundo.
A IA não deve apenas respeitar os valores humanos e centrar-se exclusivamente no ser humano, pois como podemos visar a realização de uma espécie viva cuja existência depende de inúmeras interdependências com outras espécies vivas e com o seu ambiente terrestre? Os limites e a regulamentação poderiam então advir de uma abordagem descentrada como a introduzida por Aldo Leopold há cem anos: [1]
Ao alargar «os limites da comunidade para incluir o solo, a água, as plantas e os animais, ou, coletivamente, a Terra», a Ética da Terra de Leopold não só ultrapassa os limites da humanidade (os limites comuns da moralidade), como se torna a de uma comunidade mista, incluindo populações diversas de diferentes espécies. Isto deve enriquecer a nossa compreensão da variedade de deveres dentro da comunidade biótica.
Com estes valores em mente, surgem questões importantes:
- O que se torna o humanismo quando tem em conta toda a rede relacional da existência no nosso planeta?
- O que se tornam os projetos científicos e os avanços tecnológicos se tentarmos torná-los compatíveis com as interdependências que tornam possíveis as experiências de vida?
- Mais especificamente, quais são os potenciais benefícios da IA para a Terra na sua globalidade (globalidade de todas as interações e complexidade de as apreender)?
[1] Larrère, C. (2010). Les éthiques environnementales. Natures Sciences Sociétés, Vol. 18(4), 405-413. https://shs.cairn.info/revue-natures-sciences-societes-2010-4-page-405?lang=fr (our translation).
