横向复杂性#1

在神经科学和人工智能时代,作为人类,需要仔细探索复杂性的联系,其中有效的想法仍然处于紧张状态,表现出不容忽视的微妙之处和挑战。每一页都表达了集体讨论中出现的思想之间和每个主题内部现有的紧张关系,然后得到了 NHNAI 网络研究人员的见解的补充。

一些与会者指出,随着人工智能的进步,我们将倾向于开发能够模仿或模拟人类和生物特有的行为和能力的机器（机器人、对话自动机）,例如同理心、自信、情感和感情生活。因此,人们越来越倾向于对这种能够模拟关系能力的机器（例如同伴或人工助手,或用于个人护理的机器人）产生情感依恋。

这些讨论还提出了授予先进机器人或智能系统的权利问题。

与此同时,许多参与讨论的人士强调,不能忽视生物和人类相对于机器的特殊性。机器没有意识,没有感受情感,不能明智、创造、批判或自主,不具备这些术语通常意义上的灵性,这意味着扎根于生活经验、生物体。最好的情况是,它们可以在这些记录中模拟令人信服的行为（特别是通过对话）,即人类或生物在特定情况下会表现出的行为。

从这个角度来看,许多与会者一致认为人工智能不能成为法律主体。这个问题被广泛描述为推测性或科幻性的,但并不无趣。

因此,讨论中广泛表达了这样的观点:有必要抵制（日益真实和强大的）诱惑,将某些机器人或人工智能系统视为真正的人,并尝试以情感的方式与他们建立联系（就像与人类,甚至与另一个生物建立联系一样）。我们必须抵制用与机器的互动取代真正的人际关系的诱惑。

基于 Brian P。Green（人工智能伦理学教授、Markkula 应用伦理学中心（美国圣克拉拉大学）技术伦理学主任）、Mathieu Guillermin（新技术伦理学副教授（加州大学洛杉矶分校（里昂天主教大学）、UR CONFLUENCE:Sciences et Humanités（EA 1598)、里昂的见解, 法国）和 Nathanaël Laurent（生物学哲学副教授（那慕尔大学,ESPHIN,比利时）

人们有理由对人工智能技术的最新发展感到惊讶,这些技术使聊天 GPT 和其他大型语言模型等程序能够与人类进行令人信服的对话。这些表现可能会深刻影响人类与机器的关系和互动。

正如 NHNAI 项目的许多主题领域所指出的,关系在人类生活中非常重要,保护和加强关系应该是所有从事人工智能系统及其影响工作的人员严重关切的问题。一般来说,人工智能系统应该协助而不是取代人类–,尤其是在人际关系中。作为社会生物,我们在神学上塑造了一个关系三位一体的上帝的形象,他本身就是爱,但这也是一个哲学和经验的观点,在逻辑上是必要的。人类不能独自生活,任何侵蚀我们关系的事情都是危险而危险的。必须利用人工智能来加强人际关系,无论是家庭、友谊、经济、政治还是其他关系。损害人际关系的人工智能攻击了人类的核心意义。

A。利用人工智能,我们不会从根本上创建一个新型实体

然而,这种惊奇感一定是有正当理由的。毕竟,这些成功与创造新生命形式、新智慧生物（我们称之为人工智能）毫无关系。同样令人眼花缭乱,甚至更加令人眼花缭乱的是,人类竟然能够在完全没有生命、没有生活经验的情况下,制造出能够模拟或复制智慧行为（人类可能做出的令人信服的行为）的机器和人工制品 没有意识,但具有纯粹的机制（惰性机制,但极其复杂和小型化）。

除了揭开机器学习（包括基于人工神经网络的深度学习）的神秘面纱[1]之外,还必须记住,所有程序（从最传统和最常规的程序到由机器学习产生的最先进的人工智能程序）都在不可编程（或编程程度较低）的计算机或类似机器上运行。像计算机这样的机器所做的就是改变人类具有精确含义的材料配置（硬盘上的一系列磁铁象征着 0 和 1 的序列,例如,它本身与 将一系列单词或一系列数字编码图像中的像素颜色）转换为与其他含义（例如,一系列新单词、修改后的图像或图像的描述）相关的新材料配置。这种类型的机器旨在根据材料配置的含义将材料配置转换为其他配置,这并不是什么新鲜事。计算机可以被视为信息技术和技术悠久进化历史的顶峰,可能可以追溯到写作之初。从这个角度来看,算盘可以被视为计算机的祖先（将象征例如要添加的数字的配置机械地转换为象征添加结果的配置）。

因此,严格来说,计算机中没有意义、图像、文字或数字,更不用说情感或意识了。然而,它们是奇妙的机器,可以机械地（以令人难以置信的效率和精度）操纵无数我们人类赋予意义的材料配置。计算机硬盘上的一系列磁铁将导致屏幕上的不同像素发出不同的颜色,这对我们来说不仅仅是微小的彩色光源,它们将成为告诉我们感受的文本,以及感受各种情绪的面孔的图像。但计算机仅通过机械和自动操纵磁铁（或其他硬件配置）来处理信息。这使得我们更加惊奇地看到我们可以让计算机利用源自机器学习技术的程序做什么。

B。但人工智能与任何技术一样,塑造了我们的本质和生活方式

承认计算机的这些能力之前,我们必须清楚地认识到,计算机和人工智能系统并不是我们之外的新兴实体。正如我们刚才看到的,它们与科幻小说中的人工智能完全不同,它们在强烈意义上变得有意识和自主。然而,还有另一种至关重要的意义,即人工智能系统不会离开我们:它们不仅仅是工具,我们只有在需要时才能调动它们,否则它们就会被悄悄地、中立地束之高阁。技术深刻地改变了我们。它塑造并调解我们的生存方式和共同生活方式。

布鲁诺·拉图尔的社会学观点可以帮助我们掌握这一重要观点。对他来说,‘社会’是一种联想组合[2]。一种情况被视为由人类和非人类互动者组成的‘混合集体’。这些交互物本身既不是对象也不是主体,而是被设想为关系网络。例如,如果没有设计者、维护人员或用户界面,或者当然没有假定的用户和预期用途,就无法设想数字应用程序。但用户很可能会劫持这种用途,以使其适应自己的体验环境。像 ChatGPT 这样的人工智能是由所有生成训练模型的文本的人类作者、模型的所有设计者、过滤人工智能作品的所有代理、所有用户以及预期和不可预见的使用环境组成的复合体。

C。人工智能系统的模仿能力将彻底改变游戏规则

像 chat-GPT 这样的大型语言模型能够令人信服地与我们对话（具有可信的情感或情感内容）。我们还可以尝试自动分析人们所说的话或捕捉身体或面部表情的视频中的情绪和感受。这些新技术开辟了与机器进行更加丰富和有趣的交互的可能性,其模式再现或模拟了生物之间、特别是人类之间越来越多的交互和关系特征。为了正确考虑这些与机器交互的新可能性的后果和挑战,需要强调几点。

一。人工智能的极端实用性和统一化问题

在审视人类（和生命）模仿本身的利害关系之前,重要的是要指出这些模仿能力深刻地改变了我们与机器互动的方式。与使用计算机通常所需的数字技能相比,这种交互可以变得极其流畅和简单。现在,越来越多的任务可以通过自然语言中的声音控制来启动和驱动。这也意味着数字系统无疑将变得比现在更加普遍。

从这个角度来看,为了最大限度地发挥人工智能技术的积极成果,我们必须规避的第一个问题不是物体的人类外观问题,也不是人类的客观化/数据化问题。根据拉图尔的见解（人类及其技术形成了一个复杂的交互网络,人类无法被孤立）,重要的是要避免人工智能系统导致人类生活的统一化并成为其创造力的障碍。标准化形式的调解人工智能系统以及与之交互的人类可能会压倒并威胁在具体当地情况下学习和创新的可能性。由于与环境不受控制的相互作用而产生的局部学习与标准化数据记录和处理系统同样重要。例如,阿米塔夫·戈什（Amitav Ghosh）就气候变化问题提出了[3]:

对于那些仔细观察自己生活环境的人来说,长期变化的线索有时来自意想不到的来源。(…) 最关注生态变化的人往往处于边缘；他们与土壤、森林或水的关系几乎不受技术的影响。

b。永远不要隐藏谁是谁（或什么是什么）[4]

回到机器本身的人类外观问题,与行为主义方法可能建议的相反（与著名的图灵测试有关）,首先似乎重要的是保持模拟由生活经历产生的行为和在体验这种生活经历时拥有相同行为之间的区别。例如,对于一台在生命即将结束时向老人表达同情之词的机器,我们能说些什么呢？这不能与一个能够在共同的生活经历中体验他或她的有限性、感受和同情的人所说的相同的话相混淆。如果正确理解人工智能技术,我们就不能将机器发出的同情之语描述为具有这种感受的机器。相反,看看真正涉及什么类型的人类意志、感受和意图是很有趣的。从这个角度来看,拉图尔的分析具有深刻的启发性,因为它将人工智能系统视为人类和非人类互动网络的一部分,在这种情况下,人工智能系统被组织起来自动说出同情的话语。人类意图在这里存在,但它看起来极其普遍、遥远和抽象。它是开发人员和其他参与构建该系统决策的人员之一。这种感受、意愿和意图与一个人向与她直接接触的人表达同情的感受、意愿和意图截然不同。所说单词的价值甚至无法比较。

c。将看起来像人类的机器视为机器的问题

其次,同样重要的是要说,仅仅承认机器只是机器,并将它们视为纯粹的工具,并不一定能解决所有问题。事实上,从这个角度来看,很有可能,人造伴侣（如斯派克·琼斯 2013 年的电影《她》)将被构建和编程以在市场上找到自己的位置,从而以令用户满意的方式行事（例如,谁会想要一个可能背叛或离开人类的人造伴侣？)。因此,我们将面临一些系统,它们被视为物品、财产,但其所有特殊吸引力都来自于它们模仿真实的人、展现人性、个性或生活的能力。逐渐习惯这两个特征的结合可能会对人类造成极大的破坏。这可能相当于逐渐培养一种对奴隶制感到舒适的能力:“当没有“他人,”而只有他人的出现可供我们支配时,同时缺乏通过与真正的他人对抗来行使自我奉献的要求,我们有可能被置于危险的剥削天赋之中。”[5]

同样,物体或工具状态与个人外表的这种结合也可能导致我们习惯消费者对他人的行为的态度,逐渐降低我们对其他人会打扰我们的行为的容忍度。人工同伴的持续存在并非不可能,他们的令人不安的行为将被视为缺陷（由于他们作为工具或物体的地位）,暗中导致我们将以同样的方式打扰我们的真正的人视为简单有缺陷的人,“ 看到它们,我们会感到一种无谓的不满,就像我们对一个没有表现出我们想要消费的一系列行为和反应的机器人一样。”[6]

这可能会导致重新考虑应赋予机器人和人工智能系统哪些权利的问题。无可否认,它们作为机器的地位意味着我们可以合法地拒绝将它们视为法律主体。然而,这并不意味着我们应该让每个人都为所欲为,就像我们为一张桌子所做的那样。该领域可能需要一个监管框架,哪怕只是为了防止对人类和其他生物极具毒性的行为或习惯的发展。

所有这些因素都促使我们深入思考为什么开发出的机器越来越能够呈现人类或其他生物的外观。我们需要反思我们真正能从这些技术中获得什么。

[1] 在复杂性专家对民主的贡献中了解有关机器学习的更多信息: https://nhnai.org/focus-on-nexuses-of-complexity-democracy/

[2] See: https://www.erudit.org/fr/revues/cs/2022-n4-cs07915/1098602ar.pdf

[3] A. Ghosh, La malédiction de la muscade. Une contre-histoire de la modernité, Wildproject 2024, pp. 170-171 (our translation).

[4] In the following sub-sections, we draw on the work of the AI Research Group of the Centre for Digital Culture (Culture and Education), and its book “Encountering Artificial Intelligence: Ethical and Anthropological Investigations.” *Journal of Moral Theology* 1 (Theological Investigations of AI) 2023; especially chapter 4. https://doi.org/10.55476/001c.91230

[5] Ibid., p. 119.

[6] Ibid., p. 121. The full sentence reads: “Is it possible that we will no longer see this as a glimpse of a wider array of humanity, that we will not struggle toward a charitable response? Perhaps instead, we may come to think of these others as simply faulty human beings, viewing them with the same sort of idle dissatisfaction that we would feel with a robot that did not deliver the set of behaviors and reactions that we wanted to consume.”