民主的複雜性 #1

在神經科學與人工智慧的時代，身為人類意味著必須仔細探索那些複雜性的交匯點——儘管其中存在著具說服力的觀點，但這些觀點之間仍存在張力，展現出不容忽視的微妙之處與挑戰。每頁內容皆闡述了集體討論中浮現的、存在於不同觀點之間以及各主題內部現有的張力，並輔以 NHNAI 網絡研究人員的見解。

討論內容顯示，許多參與者認同人工智慧技術在提升公共服務效率方面的價值，具體體現在透過數位化使公共服務更易於取得，以及藉由自動化特定任務（例如行政任務）來提升運作效率。此外，人工智慧與數位技術似乎也被視為有助於促進民主生活與政治決策的工具（特別是透過數據分析，以更深入理解輿論動向）。

儘管如此，許多參與者也指出，不應將人類推至次要地位，也不應讓人們完全受制於演算法，這一點至關重要。與會者針對「讓演算法各安其位」的重要性展開了廣泛討論，即演算法應作為服務人類並與人類合作的工具（而非完全取代人類）。集體（民主）生活必須維護（甚至增進）人與人之間的同理心與關係。公共服務的自動化與數位化，其本身未必對所有人都有益。部分群體可能難以接觸數位工具，而演算法可能存在偏見，並將某些形式的歧視自動化。對數位技術的依賴也可能引發與政府之間的信任問題。人工智慧技術甚至可能被用來對公民施加某種形式的控制，從而削弱其選擇自由、言論自由及思想自由。因此，對與會者而言，確保決策（無論在政治或公共服務層面）仍由人類掌控至關重要。

因此，在公共事務的運作中，自動化與數據的運用雖可成為巨大進步的來源，但絕不能以犧牲人類（或某些更脆弱的群體）為代價。所運用的AI技術必須可靠（數位化公告所引發的虛假期望，甚至可能進一步削弱對政府的信任），並展現高度的公平性、問責制與透明度（以確保建立信任與獲得社會接納）。

從更根本的層面來看，許多參與者主張一種「不被簡化為其數位資料」的權利。

本研究借鑒了布萊恩·P·格林（美國聖塔克拉拉大學馬庫拉應用倫理學中心人工智慧倫理學教授暨科技倫理學主任）、馬蒂厄·吉勒曼（里昂天主教大學（UCLy）新科技倫理學副教授，隸屬 UR CONFLUENCE： 科學與人文（EA 1598），法國里昂）的觀點，納塔納埃爾·洛朗（生物哲學副教授，比利時那慕爾大學 ESPHIN）以及伊夫·普萊（新資訊與通訊科技法學教授，比利時那慕爾大學 ESPHIN – CRIDS）

A. 在不損害個人獨特性的前提下，提升民主程序的效率

人工智慧（AI）可能在許多領域協助我們。我們希望利用 AI 來提升做好事的效率，同時也利用 AI 來降低做壞事的效率。AI 能否讓幫助他人變得更容易？能否運用 AI 來查處貪腐？AI 還能協助哪些好事，又可以幫助阻止哪些壞事？運用人工智慧來強化民主進程是一個值得探討的議題，雖然可能充滿爭議，但或許能實現民主制度過去從未可能達成的目標，例如對全體民眾進行問卷調查，並在不確定性區間的範圍內，探知「人民」對諸多政治議題的真實想法等。一種嶄新的民主形式或許有望實現。這並不意味著它會變得更好，但或許值得進行一項先導研究並加以實驗。

然而，任何這方面的努力都絕不應削弱人類（及其他生命體）的核心地位。我們應首先闡明的一項基本原則，是每個人都有權參與資訊社會。這項權利必須逐步擴大，因為如今基礎設施及某些數位服務的使用，已日益成為我們人格發展不可或缺的要素。這項權利包含接受數位素養[1]教育的權利，以及使用「核心平台服務」（如通訊、社交網路和搜尋引擎）的權利。

維護人的中心地位，也意味著尊重人類監督原則（即由人類對人工智慧系統的運作進行管控）。此外，人類絕不應完全受制於自動化系統所作出的決策。決策的解釋必須由人類提供，且必須保障申訴權。

這種對人本核心地位的尊重，與教宗方濟各在人工智慧議題上的立場之一密切相關，即反對他所稱的「技術官僚範式」：「對人類尊嚴的基本尊重，意味著拒絕讓人的一體性被一套數據所定義。絕不能讓演算法決定我們如何理解人權，也不能讓其擱置同情、憐憫與寬恕這些核心價值，更不能剝奪個人改變自我、擺脫過去的可能性。」[2]

B. 演算法是否比人類更中立？

有鑑於此，鞏固我們對數位技術的集體文化適應至關重要。事實上，「演算法」一詞很容易讓人聯想到「無偏見」，以及相較於人類判斷所展現的「更高理性」或「客觀性」（畢竟，演算法是邏輯數學程序，不留任何任意性或人類主觀性的餘地）。然而，這種隱含意涵卻掩蓋了截然不同的現實。

基本的直覺是成立的：如果某種歧視是被明確編程的，它就會在程式中「顯現出來」，而程式設計師也能被追究責任。然而，這種透明性在透過所謂「機器學習」所產生的 AI 程式中，未必成立。雖然

我們無意加入那些將這些程式視為「黑箱」的評論者行列（我們可以觀察運算過程，原則上並無隱藏或不可見之處），但重要的是要理解：這些程式極易包含偏見，並導致難以僅憑直接檢視程式內容便能偵測出的歧視現象。

事實上，機器學習背後的核心理念，正是試圖突破我們在為複雜任務明確編寫程式時所面臨的限制。舉例來說，我們可以輕易地編寫一個程式來區分黑白單色影像……這只需對這些影像中編碼像素顏色的數值進行幾項簡單的運算……但若要針對這些相同的數值進行哪些運算，才能獲得一個能區分多種日常物品影像的程式呢？在此階段，我們可以嘗試更進一步，編寫一個帶有「空缺」——或者更準確地說是「自由參數」——的程式，也就是說，編寫一個程式框架，使其能夠執行多種不同的邏輯數學運算（如乘以係數、加法，以及其他更複雜的運算），並以多種方式將這些運算串聯起來。運算的具體細節將透過將參數設定為特定值來決定。機器學習的核心理念在於：只要有一點運氣（更重要的是開發者具備高超的技能與敏銳的洞察力），便能找到一組參數，藉此生成一個能有效處理迄今為止難以解決的任務（例如分類日常物品的圖片）的程式。接著，我們將嘗試透過另一個程式自動找出這組著名的參數（或至少是一組令人滿意的參數），該程式會透過比較各參數設定方案在完成預定任務時的表現，來測試大量可能的參數設定組合。引導這個自動參數設定程式的極有效方法，是向它提供大量該任務的範例（也就是大量已根據圖像內容進行分類的圖片範例）。如果一切順利，結果將是一個參數設定正確的程式，能夠重現這些範例（我們說我們「學習」了一個模型或「訓練」了一個演算法……但這仍然屬於自動參數設定）。

C. 演算法內嵌了人類的（有意與無意的）目標與傾向

有了這份對機器學習的基本理解，我們便更容易看出，為何「成功的」學習過程仍可能產生極具問題的程式。如果我們在最初就以帶有偏見的資料（例如反映性別歧視或種族歧視）來引導自動參數化，那麼成功的學習將導致程式複製這些偏見或歧視。[3] 同樣地，如果我們以缺乏代表性的範例資料集來「訓練」程式（例如，因為資料中未涵蓋某些群體或少數族群），該程式極有可能無法為所有使用者或受其影響的人士提供同樣良好的運作效果。

總體而言，破除「數位科技僅是人類所創造、存放一旁，並僅在需要時才調動的純粹中立工具」這種迷思，至關重要。相反地，數位科技與任何技術一樣，更應被視為由相互關聯的人類行為者（電腦科學家、設計師、程式設計師、工程師、使用者等）與非人類組件（伺服器、稀土及鋰礦、用於資料中心冷卻的水資源等）所構成的網絡。因此，人工智慧系統（以及更廣泛而言的數位技術）的行為與結果，

始終源自（並反映）人類無論自願或非自願地以何種方式建構它們（包括程式設計、訓練資料集中的範例、社會生態影響等）。

特別是，人工智慧將反映、傳播，甚至可能加劇社會中的權力不對等現象。由於人工智慧是一種集中化技術（集中數據、運算能力及人才），它會剝奪那些被排除在中心之外者的權力。由此可見，人工智慧具有反民主的性質。然而，民主社會若能足夠明智地察覺這些反民主的影響，並決定如何將其置於民主的「繩索」之下，便能加以控制。掌控人工智慧的人士（無論是商界人士、政府官員、工程師等）必須對受其權力支配的群體保持回應。

這意味著，只有在極度謹慎的前提下，將部分治理任務委派給（機器學習）演算法和人工智慧系統，才可能帶來益處。比利時哲學家暨律師安托瓦內特·魯夫羅伊（Antoinette Rouvroy）的觀點在這方面尤具啟發性：[4]

機器學習——更廣泛地說，是機器讓我們察覺到那些唯有透過大量數據才能偵測到的世界規律的能力——旨在透過讓我們接觸一種兼具類比與數位特性的「立體現實」，從而提升我們個體與集體的智慧， 並能以可持續的方式改善我們自我治理及協調行為的方式（但前提是，我們必須認識到：演算法與人類決策者一樣，總是以其獨特的方式存在「偏見」——即使這些「偏見」因看似被「重新吸收」於神經網路的隱藏層中，而難以被察覺）。

安托瓦內特·魯夫羅（Antoinette Rouvroy）在批評「演算法治理」時，警告我們切勿過度且不加區分地將決策權委託給機器，否則將導致我們以人類特有且充滿生命力的方式來闡述、驗證及辯證自身信念的做法，被「一種優化與預先干預的體制」所取代：[5]

那些使我們在社會、文化、政治或意識形態層面上傾向於感知和評估世界及其居民的事件的類別或形式（在意識形態上可爭議、主觀上帶有偏見、總是略顯「不足」的， 等等），這些類別或形式使我們在社會、文化、政治或意識形態上傾向於透過特定方式來感知與評估世界上的事件及其居民；如今，這些類別或形式已被「即時」的訊號偵測所取代，且評估不再針對人或事件「是什麼」，而是以「信用」模式，預先評估其生活形式所「承載」的機會、傾向、風險等。演算法建模的目的不再是生產「知識」，而是提供既非真亦非假、但足以證明預先行動策略合理性的操作資訊。

此外，如前所述，演算法絕不能被理解為中立地處理事實。事實本身從來就不是中立的。人類始終肩負著確立事實、詮釋並理解現實的責任。這當然是一項可能出錯且可能被扭曲的努力。但演算法的作為，遠遠不及（而非超過）這一點：[6]

對演算法而言，唯一的「事實」就是數據，這些數據已被剝奪了其產生條件的記憶。然而，事實或數據，永遠不過是權力關係、支配、歧視性實踐，或是充斥於社會現實中的污名化現象的反映或效果罷了。

[1] 作為這個「基本數位服務取得機會不平等」問題的鮮明例證，比利時一項近期調查指出，在 2023 年，「由於數位技能不足或未使用網路，仍有 40% 的比利時人處於數位弱勢狀態。因此，社會數位化的加速並未帶來相應程度的數位技能提升」 (https://kbs-frb.be/fr/quatre-belges-sur-dix-toujours-risque-dexclusion-numerique).

[2] 教宗方濟各聖父為2024年1月1日第五十七屆世界和平日發表的文告, https://www.vatican.va/content/francesco/en/messages/peace/documents/20231208-messaggio-57giornatamondiale-pace2024.html

[3] 眾多例子中的其中一個（此處以生成式人工智慧為例）： https://restofworld.org/2023/ai-image-stereotypes/

[4] 安托瓦內特·魯夫羅伊（Antoinette Rouvroy）關於「演算法治理」主題的訪談（2019年12月2日，採訪者：凱瑟琳·德·普爾特爾）（本譯本）： https://www.pointculture.be/articles/focus/gouvernementalite-algorithmique-3-questions-antoinette-rouvroy-et-hugues-bersini/.

[5] Ibid. （我們的翻譯）.

[6] Ibid.（我們的翻譯）.