在神经科学与人工智能时代，作为人类意味着要仔细探索那些复杂交汇点——尽管其中存在有效的观点，但这些观点之间仍存在张力，从而显现出不容忽视的微妙之处与挑战。每一页都展现了观点之间以及各主题内部现存的张力，这些张力源于集体讨论，并辅以NHNAI网络研究人员的见解。

民主的复杂性 #2：人工智能服务于人类集体智慧

许多参与者指出，政策制定和决策必须继续以人际互动以及集体反思和商议为基础。对于“机器治国”（技术官僚主义），存在广泛的共识；对于人工智能不应取代人类进行决策这一事实，特别是对于集体政治决策这一关键领域，同样存在广泛的共识。相反，人际关系和同理心是集体决策的关键，应当予以维护和加强。
在这方面，数字工具已经为信息交流和集体辩论提供了巨大的可能性，其地理范围和时间速度都达到了前所未有的水平。随着互联网和社交网络的发展，信息共享变得极其自由。
然而，我们集体信息环境的这种自由化也引发了信息过载的问题，以及对更高效信息筛选的需求。就此而言，讨论中反映出对推荐算法的严重担忧——该算法可能通过制造回音室和信息茧房，加剧特定群体的偏见与孤立。这些过程甚至可能被利用进行蓄意操纵。无论如何，这导致我们在政策和社会辩论中对真实性的集体认同被削弱，从而削弱而非增强了我们的集体智慧能力，以及我们在公民生活中作为具有自主性的真实个体的能力。
部分参与者就此强调了媒体炒作及追逐耸人听闻的倾向（包括关于人工智能本身的炒作与耸人听闻），这加剧了信息编辑化问题，而负责任的新闻报道比以往任何时候都更为必要。
总体而言，与会者坚持认为，必须培养批判性思维，以便更好地驾驭信息环境，并支持我们的集体智慧以及政策制定和决策能力。人工智能在这方面大有可为，例如通过提升信息质量，或协助打击（深度）虚假新闻及其传播（社交网络内容审核）。

The following ideas can be found in the global and local summaries downloadable here

  • Governing should remain a human activity, with decision-making based on human interaction;
    • (Global – Democracy) Privileging AI cooperation and support instead of human replacement
    • (Global – Democracy) Preserving empathy, human contact and relationships
    • (Global – Democracy) Preserving human responsibility on ethical choices/decision-making
  • AI put our collective intelligence and decision-making capabilities at risk:
    • (Global – Democracy) Preventing AI from undermining humans’ critical thinking, decision-making abilities, and collective intelligence
  • Need to foster critical thinking:
    • (Global – Democracy) Fostering literacy and critical thinking to preserve and strengthen democracy
  • AI supporting our collective intelligence and decision-making processes:
    • Privileging AI cooperation and support instead of human replacement
    • Acknowledging the positive (potential) impact of AI on human life while asking the right questions
NHNAI学术网络的见解：

基于布莱恩·P·格林（人工智能伦理学教授，马克库拉应用伦理学中心（美国圣克拉拉大学）技术伦理学主任、马蒂厄·吉勒曼（新技术伦理学副教授（里昂天主教大学（UCLy），UR CONFLUENCE： 科学与人文（EA 1598），法国里昂）、纳塔纳埃尔·洛朗（生物学哲学副教授，比利时那慕尔大学ESPHIN）以及伊夫·普莱（信息与通信新技术法教授，比利时那慕尔大学ESPHIN – CRIDS）的见解

我们民主社会的健康在一定程度上取决于信息格局和公民’集体智慧的质量。后者深受数字和人工智能技术的影响。

A。人工智能、信息景观和集体智慧

鉴于互联网上可用的内容数量巨大（甚至仅限于数字平台）,（至少）部分自动化的信息编辑是不可避免的。因此,用于分析用户并向他们推荐某些内容的人工智能工具是关键技术。然而,我们必须思考这些分析和建议操作的标准和目的。正如杰拉尔德·布朗纳（Gerald Bronner）所解释的那样,[1] 与基于小费的经济模式相关的信息景观的自由化导致了激烈的竞争,以吸引尽可能多的用户’注意力。推荐算法旨在推动内容,引导用户保持联系（从而确保最大限度地接触个性化广告和最有效的数据收集）。这与推广有利于繁荣的内容的推荐系统有很大不同（这些内容通常乍一看吸引力较小）。

分析和推荐系统尤其可能导致政治领域的（无意或预期的）有害影响。回音室效应可能导致公众舆论的强烈两极分化。可以定制数字内容以利用推荐系统和回音室。对于使用生成式人工智能工具越来越容易产生的深度虚假新闻来说尤其如此。此外,收入和经济权力集中在大型平台手中可能会导致政治权力的集中,特别是在对公众舆论的影响力方面。这会严重削弱民主社会可能性的基础和基本条件,例如威胁组织自由和透明的选举。回音室和（深度）假新闻甚至可以用作地缘战略冲突中政治不稳定的武器。威权政权还可以利用推荐和分析系统来加强其对民众的控制。与此同时,人工智能技术可能有助于应对这些威胁。我们可以谈论一种人工智能战争,[2]防御系统以信息景观为战场对抗进攻系统。人工智能系统可以被训练来检测深度虚假图像或视频。可以开发限制虚假新闻病毒式传播的推荐和编辑系统。

从全球范围来看,我们可以预期人工智能将帮助我们改善信息格局和集体智慧（推荐更繁荣的有利内容、打击虚假新闻等）,但这在很大程度上取决于我们鼓励开发正确技术和采用最积极用途的能力,以促进数字和道德素养。这尤其意味着培养数字和道德素养,使相关参与者（从开发人员到用户）能够建立适当的条件。例如,我们可以提到对数字技术背后的经济模式的必要反思以及小费海市蜃楼所引发的问题）。

更根本的是,我们也可以富有成效地反思“正确的技术”和“积极的用途”等表达的含义。使用人工智能来支持人类智力或蓬勃发展而不是扼杀人类智力是“平衡”问题的另一个版本,贯穿了几个讨论主题。如果我们希望人工智能支持成年人“成年人”,并反对使用人工智能将我们变成以人工智能作为我们“父母”的受抚养人“婴儿”,那么关于哪些类型的支持是好的,哪些是坏的,这里还有很多话要说。问题的一部分涉及完善我们对集体或人类智能的理解,我们期望人工智能能够改进什么。

B。培养人类集体智慧意味着什么？

质疑我们关于理性或智慧意味着什么的先入为主的想法,质疑我们如何能够/应该发展值得称为知识、值得被视为真实的想法,可能会富有成效。我们很容易认为,通过清除主观判断、选择、权衡、价值问题等的推理程序,我们可以获得理性或智慧…… 这一愿景无疑鼓励了算法和学习机器领先的想法,因为它们最终完全基于数据的逻辑数学计算。因此,算法具有卓越的中立性,可以支持人类清除主观性的污染,以提高其理性。这种观点也可能导致我们在另一个复杂性关系中提出的算法治理能力得到高度认可。[3]

然而,近代科学史和科学哲学（至少自20世纪下半叶以来）向我们展示了这种纯粹的算法或程序理性和智力概念的局限性。任何科学方法,即使是最具实验性的方法,都不可避免地依赖于人类的判断和仲裁（涉及要使用的基本词汇、主要的方法论方向、要实现的目标……但也涉及基本直觉,例如经验观察不会系统地欺骗我们的想法）。[4] 计算机程序也不例外,它体现了人类判断的不可或缺性。例如,即使在机器学习的情况下,人类也必须仲裁示例语料库的质量、我们将尝试自动调整的具有自由参数的程序类型或自动参数化过程本身。[5] 此类判决或仲裁不是“任意”做出的（从某种意义上说,每个人都可以在自己的角落里为所欲为）。需要大量的技能和经验,这绝不仅仅是以纯粹中立或客观的方式应用标准或程序的问题。

当然,聪明或理性意味着能够正确（客观或中立地）应用标准、程序或算法,但或许最重要的是,它能够判断标准和程序的质量,对我们所做的事情采取反思和批判的态度……因此,能够错误地判断和仲裁,有时会犯错误, 纠正自己、进化（并在这方面互相帮助、善意合作）…… 从这个意义上来说,智慧从根本上来说是一种鲜活的东西,我们每个人只能扎根于自己的生活经历（既丰富又有限）[6],并与他人进行健康的合作。

人类智慧的这种集体和关系维度至关重要,并引导我们回到民主的话题,因为民主依赖于强大的主体间审议空间。当我与其他人互动时,我会变得更加聪明,例如因为他们使用不同的分类（或以不同的方式使用我的分类）。民主和集体审议不仅仅是个人意见的盲目串联,多数人接受的意见占主导地位。这首先是一种生活和繁荣的方式。人工智能系统,无论多么智能或“智能”,都不能指望取代或自动化这种形式的深度集体人类智能。这绝不是对人类的支持,而是对他们生命和智慧的一种消灭。因此,我们应该思考的关键问题是:机器如何帮助我们变得更加智能？作为我们社会环境中越来越普遍的参与者（我们可以说我们形成了技术社会或混合系统）,数字技术（包括人工智能）不仅为我们提供信息,而且还改变我们。我们必须反思这一转变以及我们希望它引领我们走向何方。数字技术如何有助于深化我们的生活体验,使我们变得更聪明、更有经验？哪些类型的人工智能系统和数字服务将真正促进我们的集体和人类智能？

[1] Gérald Bronner (2012), Apocalypse cognitive, Presses Universitaires de France

[2] https://www.latribune.fr/opinions/tribunes/lutte-contre-la-desinformation-la-guerre-des-intelligences-artificielles-997066.html

[3] 看: AI and digital technologies for public services and democratic life.

[4] Philip Kitcher, Science, Truth and Democracy, New York, NY: Oxford University Press, 2001, ISBN : 0-19-514583-6. Mathieu Guillermin, «Non-neutralité sans relativisme ? Le rôle crucial de la rationalité évaluative». Dans : Laurence Brière, Mélissa Lieutenant-Gosselin, Florence Piron (dir.), Et si la recherche scientifique ne pouvait pas être neutre ? Éditions Science et bien commun, 2019, 315-338.  https://scienceetbiencommun.pressbooks.pub/neutralite/chapter/guillermin/

[5] 欲了解更多详情,请参阅复杂性关系中的专业知识输入,标题为: AI and digital technologies for public services and democratic life, especially section B. Are algorithms more neutral than humans?

[6] 例如见: François Laplantine, The Life of the Senses: Introduction to a Modal Anthropology, Routledge (Sensory Studies), 2020, 176 p., ISBN 9781472531964