关于民主的复杂性 #1

在神经科学与人工智能时代，作为人类意味着要仔细探索那些复杂交汇点——尽管这些交汇点中存在着有价值的观点，但它们之间仍存在张力，从而显现出不容忽视的微妙之处与挑战。每一页都展现了观点之间以及各主题内部现存的张力，这些张力源于集体讨论，并辅以NHNAI网络研究人员的见解。

讨论内容表明，许多参与者认识到人工智能技术在提升公共服务效率方面的价值，具体体现在通过数字化使公共服务更易获取，以及借助某些任务（如行政任务）的自动化提升服务效率。人工智能和数字技术似乎也被视为促进民主生活和政治决策的有益工具（尤其是通过数据分析来更好地把握公众舆论的走向）。
然而，许多参与者也指出，不应将人类置于次要地位，也不应让人完全受制于算法。关于让算法各安其位——作为服务于人类并与人类协作的工具（而非完全取代人类）——的重要性，与会者进行了大量讨论。集体（民主）生活需要维护（甚至增强）人类之间的同理心与人际关系。公共服务的自动化和数字化本身并不一定对所有人都有益。部分人群可能难以接触数字工具，且算法可能存在偏见并自动产生某些形式的歧视。对数字技术的依赖也可能引发民众对政府的信任问题。人工智能技术甚至可能被用于对公民实施某种形式的控制，从而损害其选择自由、言论自由和思想自由。因此，对参与者而言，确保决策（无论是政治层面还是公共服务层面）始终处于人类控制之下至关重要。
在公共事务管理中，自动化和数据应用虽可成为巨大进步的源泉，但绝不能以牺牲人类（或某些更脆弱群体）的利益为代价。投入应用的人工智能技术必须可靠（数字化公告所引发的希望若落空，可能进一步削弱对政府的信任），并展现出高度的公平性、问责制和透明度（以确保建立信任并获得社会认可）。
从更根本的层面来看，许多参与者主张一种“不被简化为数字数据”的权利。

借鉴了布莱恩·P·格林（美国圣克拉拉大学马克库拉应用伦理学中心人工智能伦理学教授兼技术伦理学主任）、马蒂厄·吉勒曼（里昂天主教大学（UCLy）新技术伦理学副教授，隶属于UR CONFLUENCE： 科学与人文（EA 1598），法国里昂））、纳塔纳埃尔·洛朗（生物学哲学副教授，比利时那慕尔大学ESPHIN）以及伊夫·普莱（新信息与通信技术法学教授，比利时那慕尔大学ESPHIN – CRIDS）的观点

A. 在不损害个人独特性的前提下提高民主进程的效率

人工智能可能在许多领域为我们提供帮助。我们希望利用人工智能，让“好事”变得更高效，同时让“坏事”变得效率低下。人工智能能否帮助我们更轻松地帮助他人？能否利用人工智能来打击腐败？人工智能还能在哪些方面发挥积极作用，又能在哪些方面遏制不良行为？利用人工智能来强化民主进程是一个有趣的课题，虽然可能充满争议，但或许能够实现民主制度此前无法企及之事，例如对全体民众进行问卷调查，并查明“人民”对诸多政治议题的真实想法（包括附带不确定性区间等）。一种新型民主或许成为可能。这并不意味着它会更好，但或许值得开展试点研究并加以尝试。

然而，任何此类努力都绝不应削弱人的（以及其他生命体）的核心地位。我们应首先确立的一项基本原则是：每个人都有权参与信息社会。这一权利必须逐步扩大，因为如今基础设施及某些数字服务的使用，正日益成为我们人格发展不可或缺的要素。这一权利既包含获得数字素养教育的权利[1]，也包含使用“核心平台服务”（如通信、社交网络和搜索引擎）的权利。

维护人的中心地位还意味着恪守人类监督原则（即由人类掌控人工智能系统的运行）。此外，人类绝不应完全受制于自动化系统的决策。决策解释必须由人类提供，且必须保障申诉权。

这种对人本中心性的尊重，与教宗方济各在人工智能问题上的立场核心之一相契合，即反对他所称的“技术官僚范式”：“对人类尊严的基本尊重意味着拒绝让人格的独特性被一串数据所定义。绝不能让算法决定我们如何理解人权，不能让其搁置同情、怜悯和宽恕这些基本价值观，更不能剥夺个人改变自身、告别过去的可能性。”[2]

B. 算法比人类更中立吗？

考虑到这一点，巩固我们对数字技术的集体认知至关重要。事实上，“算法”这一概念很容易让人联想到“无偏见”，以及相较于人类判断所具备的更高理性或客观性（毕竟，算法是逻辑数学程序，不留任何任意性或人类主观性的余地）。然而，这种内涵掩盖了一个截然不同的现实。

这种基本直觉是成立的：如果歧视是被明确编程的，它就会在程序中“显现”，程序员也能被追究责任。然而，对于通过所谓机器学习获得的人工智能程序而言，这种透明性并不一定成立。虽然

我们无意加入那些将这些程序视为“黑箱”的评论者行列（我们能够观察计算过程，原则上没有任何内容是隐藏或不可见的），但必须认识到，这些程序极易包含偏见，并导致难以通过直接查看程序内容来检测的歧视。

事实上，机器学习背后的核心理念，正是试图突破我们在编写复杂任务程序时的能力局限。例如，我们能轻松编写程序来区分黑白单色图像……只需对编码像素颜色的数值进行几项简单运算即可……但若要区分多种日常物体的图像，我们又该对这些数值进行怎样的运算才能获得相应的程序呢？在此阶段，我们可以尝试更进一步，编写一个带有“空缺”或更确切地说“自由参数”的程序，即一个能够执行多种不同逻辑数学运算（如系数乘法、加法及其他更复杂的运算），并以多种方式将它们串联起来的程序框架。运算的具体细节将通过将参数设置为特定值来确定。机器学习的理念在于：只要有一点运气（更重要的是开发者具备高超的技能和敏锐的洞察力），就存在一组参数，能够生成一个高效的程序来解决此前难以攻克的任务（例如分类日常物品的图像）。随后，我们将尝试通过另一个程序自动寻找这组著名的参数（或至少是一组令人满意的参数），该程序将通过比较不同参数设置在完成目标任务时的表现，来测试大量参数组合的可能性。引导这个自动参数设置程序的一种非常有效的方法，是向它提供大量当前任务的示例（即大量已根据所描绘内容进行分类的图像示例）。如果一切顺利，结果将是一个参数设置正确的程序，它能够复现这些示例（我们说我们已经“学习”了一个模型或“训练”了一个算法……但这本质上仍是自动参数化）。

C. 算法内嵌了人类（有意或无意的）目标与倾向

基于对机器学习的这一基本理解，我们更容易看出，即使是“成功”的学习过程，仍可能导致程序存在严重问题。如果我们在一开始就使用带有偏见的数据（例如反映性别歧视或种族歧视）来引导自动参数化，那么成功的学习将导致程序复制这些偏见或歧视。[3] 同样地，如果我们基于非代表性的样本集“训练”程序（例如，因为数据中未包含某些群体或少数群体的样本），那么该程序很可能无法为所有使用者或受其影响的人群提供同样良好的服务。

总体而言，破除“数字技术仅仅是人类创造、闲置，并在需要时才调用的中立工具”这一幻觉至关重要。相反，数字技术与任何技术一样，更应被视为由相互关联的人类行为者（计算机科学家、设计师、程序员、工程师、用户等）与非人类组件（服务器、稀土及锂矿、用于数据中心冷却的水资源等）构成的网络。因此，AI系统（以及更广泛的数字技术）的行为与结果将

始终源于（并反映）人类有意或无意间构建它们的要素（编程、训练数据集中的示例、社会生态影响等）。

特别是，人工智能将反映、传播并可能加剧社会中的权力不对等。由于人工智能是一种集中化技术（集中数据、计算能力和人才），它会剥夺那些被排除在中心之外者的权力。从这个意义上说，人工智能是反民主的。但民主社会若足够明智，能够识别这些反民主的影响并确定如何将其置于民主的“缰绳”之下，便能加以控制。那些掌控人工智能的人（无论是商界人士、政府官员还是工程师等）必须对受其权力支配的群体保持敏感。

这意味着，只有在极其谨慎的前提下，将部分治理任务委托给（机器学习）算法和人工智能系统才可能带来益处。安托瓦内特·鲁夫罗伊（比利时哲学家兼律师）的观点对此尤为发人深省： [4]

机器学习，以及更广泛地说，机器让我们意识到那些只能通过海量数据才能发现的世界规律的能力，旨在通过让我们接触一种既模拟又数字的“立体现实”，从而提升我们的个体和集体智慧， 并能以可持续的方式改善我们自我治理及行为协调的方式（但前提是我们必须认识到，算法与人类决策者一样，总是以各自的方式带有“偏见”，即使这些“偏见”难以察觉，因为它们似乎被“重新吸收”到了神经网络的隐层之中）。

安托瓦内特·鲁夫罗伊在批判“算法治理”时，警告了将决策权过度且不加区分地委托给机器的风险，这将导致我们人类特有的、鲜活的表述、验证和论证信念的方式，被“一种优化与预先干预的体制”所取代： [5]

那些使我们在社会、文化、政治或意识形态层面预先倾向于感知和评估世界及其居民的事件的范畴或形式（在意识形态上可争议、主观上带有偏见、总是略显“不足”的， 等等），这些范畴或形式使我们在社会、文化、政治或意识形态层面预先倾向于感知和评估世界及其居民的事件，如今已被“实时”信号检测所取代，并进行一种预判性评估——不是评估人或事件“是什么”，而是以“信用”的方式，评估其生活形式“承载”的机会、倾向、风险等。算法建模的目标不再是生产“知识”，而是提供既非真亦非假、但足够可靠以证明先发制人行动策略合理性的操作信息。

此外，正如前文所述，绝不能将算法理解为中立地处理事实。事实本身从来都不是中立的。人类始终肩负着确立事实、诠释并赋予现实意义的责任。这当然是一项可能出错且易被扭曲的努力。但算法所做的（远）少于此：[6]

对算法而言，唯一的“事实”就是数据，这些数据已使其遗忘了自身产生的条件。然而，事实或数据，无非是权力关系、支配、歧视性实践或充斥于社会现实中的污名化的反映或效应。

[1] 关于获取基本数字服务方面存在不平等这一问题的生动例证是，比利时最近的一项调查指出，2023年，“40%的比利时人仍处于数字脆弱状态，原因在于数字技能欠缺或不使用互联网。因此，社会数字化进程的加速并未带来数字技能的相应提升” (https://kbs-frb.be/fr/quatre-belges-sur-dix-toujours-risque-dexclusion-numerique).

[2] 教宗方济各圣父为2024年1月1日第57届世界和平日发表的文告, https://www.vatican.va/content/francesco/en/messages/peace/documents/20231208-messaggio-57giornatamondiale-pace2024.html

[3] 众多例子中的一个（此处以生成式人工智能为例）： https://restofworld.org/2023/ai-image-stereotypes/

[4] 安托瓦内特·鲁夫罗伊关于“算法治理”的访谈（2019年12月2日，凯瑟琳·德·普尔特尔采访）（本译文）： https://www.pointculture.be/articles/focus/gouvernementalite-algorithmique-3-questions-antoinette-rouvroy-et-hugues-bersini/.

[5] Ibid. （本译文）.

[6] Ibid.（本译文）.