在神经科学与人工智能时代，作为人类意味着要仔细探索那些复杂交汇点——尽管其中存在有效的观点，但这些观点之间仍存在张力，从而显现出不容忽视的微妙之处与挑战。每一页都展现了观点之间以及各主题内部现存的张力，这些张力源于集体讨论，并辅以NHNAI网络研究人员的见解。
民主的复杂性#3: 在不损害基本权利的情况下确保安全和保障
讨论参与者承认,在我们生活的许多方面使用人工智能技术是有意义的,特别是为了在我们的民主社会中更好地共同生活。除了人工智能可能为集体政治决策或集体智慧带来的支持（这将在复杂性的专门联系中讨论[1])之外,一些与会者还强调,人工智能可以帮助提高安全性,例如增强视频监控能力。其他人则指出人工智能在安全方面的好处,可以提高预测和管理流行病或自然灾害等危机的能力。
与此同时,讨论清楚地表明了对基本权利和隐私保护的担忧,尤其是心理隐私（已经有了分析算法,当神经科学被添加到图片中时更是如此）。参与者尤其担心私人和公共实体会大量访问各种个人数据（有关健康、观点、选择、习惯和风俗……),从而给隐私带来压力。
削弱隐私和模糊公共和私人领域之间的界限可能会严重阻碍思想和言论自由以及民主和社会生活。此外,与会者坚持认为,保障和安全的改善不应以牺牲最弱势群体的利益为代价,他们在维护自己的权利时可能会遇到更多困难。一般来说,人们永远不应该被简化为他们的数据。
[1] 请参阅以下复杂性关系: 公共服务的人工智能和数字技术 以及为人类集体智慧服务的人工智能
NHNAI学术网络的见解：
A。隐私是民主的基石
隐私保护是集体生活的重要组成部分,尤其是在民主社会中。对某些事情保密、将其置于公共领域之外的权利是极其基本的。正如比利时哲学家科伦丁·德·萨勒所回忆的那样,隐私极其重要,原因如下:[1]
第一,维护人民的尊严。你可能会说,这是出于体面。其次,因为揭露应该保密的事情会让人们变得脆弱。如果他们负有责任,这可能会损害他们的权威。这使得他们更难承担职业生涯中必须发挥的社会角色。它还可能导致他们的弱点被揭露,使不道德的人能够利用他们来操纵、欺骗、窃取他们的身份或伤害他们。最后,保护隐私很重要,因为每个人都需要一个避难所,一个可以充电的地方,而不必担心自己的言论、行为或想法。(…)
此外,隐私“不是与其他自由并列的基本自由,而是其他自由的条件。特别是言论自由和行动自由。[正如 Yves Poullet 所说,如果我知道的话] 我不断受到监视,我将不再敢按照自己的意愿表达自己,即使在更亲密和私密的环境中也是如此。如果我始终感到被控制,我该如何按照自己的意愿移动？”[2] 随着新兴神经技术为分析和操纵大脑功能提供了新的力量,隐私问题可能会变得更加严重,有可能破坏我们的心理完整性和心理认同。也许是时候承认‘神经权利’了,正如某些国家已经做的那样。
看待隐私权基础的另一种方式是个人与国家之间的权力差异问题。因为知识就是权力,而国家比个人拥有更多的知识和权力,所以国家应该对个人更加透明（政府信息自由、政府保密范围狭窄）,而个人对国家更加不透明（隐私权）。数字技术和人工智能系统在某种程度上扩展了权力不对称问题,因为人工智能是一种可以由国家控制,也可以由其他组织控制的权力,这些组织也应该对公众更加透明,并通过隐私权保护公众免受这些组织的侵害。
当然,通过监视实现公共安全的愿望与上述隐私权相冲突。安全和隐私之间的平衡非常具体,因此因地而异,但总的来说,政府方面（或强大的组织）的透明度也可以得到类似的提高,以便即使个人受到更多监视,也能保护他们。还值得一提的是,隐私绝不应该从纯粹的个人主义角度来考虑。例如,对于分析和推荐技术:我们必须考虑到这样一个事实:我们的概况不仅是从我们的数据中推导出来的,而且是从大数据中推导出来的,其中我们的数据与其他人的数据混合在一起。这意味着我们允许人工智能应用程序收集和处理数据的个人决定也会以某种方式吸引其他人。我们的数据可能用于分析其他拒绝收集和处理其数据的人。事实上,在利用人员（个人）数据的背后,存在着一个全球性问题,即我们想要生活在哪种社会和经济模式中,这个问题超越了国家’监视其公民的唯一问题。
B。监控资本主义
在这方面,我们可以让人想起祖博夫的著作《监视资本主义时代》(2018)。祖博夫是哈佛商学院的名誉教授,以对工作场所技术的研究而闻名,她承担了一项艰巨的任务:创建一套能够捕捉现代科技公司兴奋感的术语。她认为,监视资本主义通过使用鼓励“彻底冷漠”一种没有任何目击者的观察方式来收集、处理和分析人们的行为数据来赚钱。这使其有别于工业资本主义,工业资本主义通过开发自然资源和劳动力来获利。监控公司从他们收集的数据中发现了大量供自己使用的信息,他们意识到他们可以将这些“数据耗尽”出售给广告商。对他们来说,数据背后的人只是配件。
祖博夫认为由此产生的经济结构是全新的:一种流氓形式的资本主义。虽然以前的公司依赖于“原始积累”,但 Facebook 和 Google 等监控公司依赖于持续的“数字剥夺”,这是她从大卫·哈维那里学到的概念。对于这些公司来说,我们每个人都不断变得易于理解且有利可图。祖博夫担心,政府监控不仅仅是限制自由意志,这些公司还会利用人类的自由意志来实现其目标,并依赖我们提供的可预测结果。
对于祖博夫来说,这给现代自由主义的核心思想——个人——带来了令人不安的局面。她认为监视资本主义是 BF 斯金纳心理学研究的延伸,在心理学研究中,人们仅仅被视为他们的行为和反应。斯金纳希望提高社会团结和工作场所效率,无论个人选择如何。祖博夫强调了一些例子,展示了监控资本主义与这种行为主义的关系,例如生物识别技术的发展和罗莎琳德·皮卡德关于自闭症用户情感计算的研究,该研究后来被监控初创公司采用。所有这些都表明,监视资本主义正在逐渐损害我们基本的人身自由权。
[1] De Salle C., Tellier S., De Cooman J., Petit N., Duquenne E., Lombardo A., Hublet L. & Leduc P. (2018) La vie privée à l’ère des big data, Les Études du Centre Jean Gol, p. 9. https://www.cjg.be/les-etudes-du-cjg-la-vie-privee-a-lere-des-big-data/
[2] Ibid.
