橫向複雜度 #1

在神經科學和人工智慧時代，身為人類意味著要仔細探索複雜性的交會點，在這些交會點上，看似合理的觀點卻存在著張力，展現出不容忽視的微妙之處和挑戰。每一頁都表達了在集體討論中湧現的觀點之間以及每個主題內部存在的張力，並輔以NHNAI網絡研究人員的真知灼見。

一些與會者指出，隨著人工智慧的發展，我們將傾向於開發能夠模仿或模擬人類和生物特有的行為和能力的機器（機器人、對話自動機），例如同理心、自信、情感和情感生活。因此，人們將越來越容易對這類能夠模擬人際關係能力的機器（例如伴侶、人工智慧助理或個人護理機器人）產生情感依戀。

這些討論也引發了關於高階機器人或智慧系統應享有何種權利的問題。

同時，許多討論發言強調，在與機器的比較中，不應忽視生物和人類的特殊性。機器沒有意識，感受不到情感，不具備智慧、創造力、批判性思考或自主性，也不具備通常意義上的精神性，即根植於生活經驗和生物體的精神性。充其量，它們只能在這些脈絡下模擬出令人信服的行為（尤其是在對話方面），這些行為與人類或生物在特定情況下會表現出的行為類似。

從這個角度來看，許多參與者都認同人工智慧不應該成為法律的管轄對象。這個問題被廣泛認為是推測性的或科幻式的，但並非毫無趣味。

因此，在討論中，人們普遍認為必須抵制這種（日益真實且強大的）誘惑，即把某些機器人或人工智慧系統視為真正的人，並試圖與它們建立情感聯繫（就像與人，甚至與其他生物一樣）。我們必須抵抗用與機器的互動來取代真正的人際關係的誘惑。

基於 Brian P. Green（人工智慧倫理學教授，Markkula 應用倫理中心（美國聖克拉拉大學）技術倫理學主任）、Mathieu Guillermin（新技術倫理學副教授（里昂天主教大學，UR CONFLUENCE：科學與人文學院（EA 1598），法國里昂）和 Nathanaël Laurent（生物哲學副教授（那比利時），ESPHIN

人工智慧技術的最新進展令人驚嘆，例如聊天GPT等大型語言模型能夠與人類進行逼真的對話。這些表現可能會對人際關係以及人機互動產生深遠的影響。

正如NHNAI計畫諸多主題領域所指出的，人際關係在人類生活中至關重要，保護和加強人際關係應是所有從事人工智慧系統及其影響研究的人員高度關注的問題。總的來說，人工智慧系統應該輔助人類而非取代人類——尤其是在人際關係方面。作為社會性動物，從神學角度來看，我們是按照三位一體的上帝的形象創造的，祂本身就是愛，這不僅是一個哲學和經驗層面的觀點，而且在邏輯上也是必然的。人類無法孤立生存，任何破壞我們人際關係的事物都是危險的。人工智慧必須用於加強人際關係，無論是家庭關係、友誼、經濟關係、政治關係或其他關係。破壞人際關係的人工智慧攻擊了人性的核心。

A. 人工智慧並非從根本上創造了一種全新的實體。

然而，這種驚嘆之情必須源自於正確的理由。畢竟，這些成就與創造新的生命形式、新的智能體（我們稱之為人工智慧）毫無關係。更令人震驚的是，人類已經能夠製造出機器，這些機器能夠模擬或複製智能行為（足以以假亂真的行為，彷彿出自人類之手），而它們本身卻沒有任何生命、生活經驗或意識，僅僅是由純粹的機械裝置構成（惰性的機械裝置，但卻極其複雜且微型化）。

除了揭開機器學習（包括基於人工神經網路的深度學習）[1]的神秘面紗之外，同樣重要的是要記住，所有程式（從最傳統、最常規的程式到機器學習產生的最先進的人工智慧程式）都運行在電腦或類似的機器上，而這些機器本身並不（或程式設計能力較弱）。電腦這類機器的作用在於，將人類賦予特定意義的物質結構（例如，硬碟上的磁鐵序列象徵著一串0和1，而這串0和1本身又與一系列詞語或編碼圖像像素顏色的數字序列相關聯）轉化為與新意義相關聯的物質結構（例如，一系列新的詞語、修改後的圖像或對圖像的描述）。這種旨在根據物質結構所代表的意義進行轉換的機器並非新事物。電腦可被視為資訊科技漫長發展史的巔峰之作，其歷史或許可以追溯到文字的起源。從這個角度來看，算盤可以被視為計算機的先驅（它將象徵待加數字的結構機械地轉化為象徵加法結果的結構）。

因此，嚴格來說，電腦中不存在意義、圖像、字詞或數字，更遑論情感或意識。然而，它們是絕佳的機器，能夠以驚人的效率和精度機械地操控無數種我們人類賦予意義的材料結構。電腦硬碟上的一系列磁鐵會使螢幕上的不同像素發出不同的顏色，這些顏色對我們來說不僅僅是微小的彩色光源，它們會變成文字，告訴我們各種感受，變成展現特定情緒的臉圖像。但電腦只是透過機械地、自動地操控磁鐵（或其他硬體結構）來處理資訊。正因如此，當我們看到利用機器學習技術開發的程式能夠讓電腦完成如此多的事情時，才更加令人嘆為觀止。

B. 但人工智慧，如同任何科技一樣，塑造著我們是誰以及我們如何生活。

承認電腦的這些能力，絕不能脫離對電腦和人工智慧系統的清晰理解：它們並非獨立於我們而存在的實體。正如我們剛才所見，它們與科幻小說中那些擁有意識和自主性的人工智慧截然不同。然而，人工智慧系統並非獨立於我們之外的另一個關鍵層面：它們並非僅僅是我們在需要時才啟用、其餘時間都靜靜地束之高閣的工具。科技深刻地改變著我們。它塑造並影響著我們的存在方式和共同生活的方式。

布魯諾·拉圖的社會學觀點有助於我們理解這個重要觀點。對他而言，「社會」是一種關聯構成[2]。情境被視為由人類和非人類互動者組成的「混合集體」。這些互動者既非客體也非主體，它們本身被視為關係網絡。例如，一個數位應用程式的誕生離不開其設計者、維護人員、使用者介面，當然也離不開其假定使用者和預期用途。但使用者很可能會利用這些用途，使其適應自身的體驗環境。像 ChatGPT 這樣的人工智慧系統，是由所有生成訓練模型文字的人類作者、所有模型設計者、所有過濾人工智慧輸出的代理、所有使用者以及預期和不可預見的使用環境共同構成的。

C. 人工智慧系統的模仿能力具有顛覆性意義

像 ChatGPT 這樣的大型語言模型能夠以令人信服的方式與我們溝通（包含可信賴的情感內容）。我們也可以嘗試自動分析人們言語中的情感，或是分析捕捉身體或臉部表情的影片。這些新技術開啟了與機器進行更豐富、更有趣的互動的可能性，其模式能夠再現或模擬生物之間（尤其是人與人之間）互動和關係的日益增加的特徵。為了正確評估這些與機器互動的新可能性所帶來的後果和挑戰，有幾點需要強調。

a. 人工智慧的極致實用性與統一化問題

在探討模仿人類（以及生命）本身的風險之前，必須指出，這些模仿能力深刻地改變了我們與機器互動的方式。與通常使用電腦所需的數位技能相比，這種互動可以變得極其流暢便捷。如今，越來越多的任務可以透過自然語言的語音控制來啟動和執行。這也意味著數位系統無疑將比現在更加普及。

從這個角度來看，為了最大限度地發揮人工智慧技術的積極作用，我們必須克服的首要問題並非物體的人類外觀問題，也不是人類的客體化/資料化問題。基於拉圖的洞見（人類及其技術構成了一個錯綜複雜的互動網絡，人類無法脫離這個網絡），我們需要避免的是人工智慧系統導致人類生活趨於同質化，並阻礙其創造力。標準化的人工智慧系統及其與人類的互動方式可能會壓倒並威脅到在具體情境中學習和創新的可能性。源自於與環境的非受控互動的本地學習與標準化的資料記錄和處理系統同樣重要。例如，阿米塔夫·戈什[3]就氣候變遷問題闡述了這一點：

對於那些仔細觀察自己所處環境的人來說，長期變化的線索有時會來自意想不到的地方。 (…) 最關註生態變遷的人往往處於社會邊緣；他們與土壤、森林或水的關係幾乎不受科技的影響。

b. 從不隱瞞身分（或事物）[4]

回到機器本身是否具有人性這一問題，與行為主義方法（例如著名的圖靈測試）可能提出的觀點相反，首先重要的是要區分模擬源於生活經驗的行為和在經歷這種生活經驗時表現出這種行為。例如，對於一台在老人生命即將走到盡頭時表達同情的機器，我們該如何理解？這不能與一個能夠體驗自身有限性、在共同的生活經驗中感受和同情的人所表達的同樣情感混淆。如果對人工智慧技術有正確的理解，那麼機器發出同情的話語就不能被描述為機器擁有這種情感。相反，更值得探究的是，其中究竟涉及何種人類意志、情感和意圖。從這個角度來看，拉圖的分析極具啟發性，因為它引導我們將人工智慧系統視為人類和非人類互動網路的一部分，在本例中，這些系統被組織起來自動發出同情的話語。人類的意圖確實存在，但它看起來極其籠統、遙遠且抽象。它代表的是開發者和其他參與建構該系統決策的人員的意圖。這種情感、意志和意圖與一個人直接向與其接觸的人表達同情截然不同。所發出的話語的價值根本無法相提並論。

c. 將外形似人機器視為機器的問題

其次，同樣重要的是要指出，僅僅承認機器只是機器，並將它們視為純粹的工具，並不一定能解決所有問題。的確，從這個角度來看，人工智慧伴侶（就像史派克瓊斯2013年的電影《她》中）很可能被製造和編程，以在市場中找到自己的位置，因此其行為方式會迎合用戶（例如，誰會想要一個可能會背叛或拋棄人類的人工智慧伴侶呢？）。因此，我們將面對這樣的系統：它們被視為物品，被視為所有物，但它們所有獨特的吸引力都來自於它們能夠模仿真人，展現人性、個性或生命力。逐漸習慣這兩種特性的結合，可能會對人類造成極為嚴重的破壞。這可能等同於逐漸培養出一種對奴役習以為常的能力：“當不存在真正的‘他者’，而只有他者的表象可供我們支配，同時又缺乏與真正的他者相遇時對自身奉獻所施加的要求時，我們就有可能被訓練成一種危險的剝削天賦。”[5]

同樣，這種將客體或工具地位與個人表象結合的做法，也會使我們習慣於以消費者的心態看待他人的行為，從而逐漸降低我們對那些令我們感到不安的他人行為的容忍度。人工智慧夥伴的持續存在並非不可能，它們令人不安的行為會被視為缺陷（因為它們是工具或物品），這或許會潛移默化地引導我們以同樣的方式看待那些令我們感到不安的真人，將他們視為“有缺陷的人類”，並像看待一個無法提供我們想要的行為和反應的機器人那樣，對他們抱有同樣的無謂不滿。 [6]

這或許會促使我們重新思考應該賦予機器人和人工智慧系統哪些權利。誠然，它們作為機器的身份意味著我們可以合法地拒絕將它們視為法律主體。但這並不意味著我們應該放任所有人隨意對待它們，就像對待一張桌子一樣。在這個領域，建立一套監管框架或許是必要的，即使只是為了防止養成對人類和其他生物極其有害的行為或習慣。

所有這些因素都促使我們深入思考，為什麼我們要開發出越來越能夠模仿人類或其他生物外觀的機器。我們需要思考我們究竟能從這些技術中獲得什麼。

[1] 在复杂性专家对民主的贡献中了解有关机器学习的更多信息: https://nhnai.org/focus-on-nexuses-of-complexity-democracy/

[2] See: https://www.erudit.org/fr/revues/cs/2022-n4-cs07915/1098602ar.pdf

[3] A. Ghosh, La malédiction de la muscade. Une contre-histoire de la modernité, Wildproject 2024, pp. 170-171 (our translation).

[4] In the following sub-sections, we draw on the work of the AI Research Group of the Centre for Digital Culture (Culture and Education), and its book “Encountering Artificial Intelligence: Ethical and Anthropological Investigations.” *Journal of Moral Theology* 1 (Theological Investigations of AI) 2023; especially chapter 4. https://doi.org/10.55476/001c.91230

[5] Ibid., p. 119.

[6] Ibid., p. 121. The full sentence reads: “Is it possible that we will no longer see this as a glimpse of a wider array of humanity, that we will not struggle toward a charitable response? Perhaps instead, we may come to think of these others as simply faulty human beings, viewing them with the same sort of idle dissatisfaction that we would feel with a robot that did not deliver the set of behaviors and reactions that we wanted to consume.”