民主的複雜性 #2

在神經科學與人工智慧的時代，身為人類意味著必須仔細探索那些複雜性的交匯點——儘管其中存在著具說服力的觀點，但這些觀點之間仍存在張力，展現出不容忽視的微妙之處與挑戰。每頁內容皆闡述了集體討論中浮現的、存在於不同觀點之間以及各主題內部現有的張力，並輔以 NHNAI 網絡研究人員的見解。

許多參與者指出，政策與決策制定必須繼續以人際互動、集體反思與商議為基礎。各界對「機器治理」（技術官僚主義）存在廣泛共識，亦普遍認同人工智慧不應取代人類在決策中的角色，特別是在集體政治決策這一關鍵領域。相反地，人際關係與同理心是集體決策的關鍵，應予以維護並加強。

就此而言，數位工具已為資訊交流與集體辯論提供了巨大的可能性，其地理範圍與時間節奏皆達到了前所未有的程度。隨著網際網路與社交網路的發展，資訊共享已變得極其自由化。

然而，我們集體資訊環境的這股自由化趨勢，也引發了資訊過載的問題，並凸顯出需要更有效率地對資訊進行篩選與編輯。就此而言，相關討論反映出人們對推薦演算法的嚴重擔憂——此類演算法可能透過製造「迴聲室」與「資訊泡沫」，加劇特定群體的偏見與孤立。這些過程甚至可能被利用來進行有意的操縱。無論如何，這導致我們在政策與社會辯論中對真實性的集體關係日趨弱化，從而削弱而非增強了我們的集體智慧能力，以及我們在公民生活中以自主身份成為真實個體的能力。

部分參與者就此特別指出媒體炒作及容易陷入煽情主義的傾向（包括關於人工智慧本身的炒作與煽情主義），這加劇了資訊篩選的問題，而此時比以往任何時候都更需要負責任的新聞報導。

總體而言，與會者強調必須培養批判性思考，以更好地駕馭資訊環境，並支持我們的集體智慧以及政策制定與決策能力。人工智慧在這方面可發揮巨大作用，例如有助於提升資訊品質，或協助打擊（深度）假新聞及其傳播（社群媒體內容審查）。

根據布萊恩·P·格林（Brian P. Green，人工智慧倫理學教授，美國聖塔克拉拉大學馬庫拉應用倫理學中心（Markkula Center for Applied Ethics）科技倫理學主任）、馬蒂厄·吉勒曼（Mathieu Guillermin，新科技倫理學副教授，里昂天主教大學（UCLy），UR CONFLUENCE： 科學與人文（EA 1598），法國里昂）、納塔納埃爾·洛朗（生物哲學副教授，那慕爾大學，ESPHIN，比利時）以及伊夫·普萊（新資訊與通訊科技法教授，那慕爾大學，ESPHIN – CRIDS，比利時）的見解

我們民主社會的健康發展，部分取決於資訊環境的品質以及公民的集體智慧。而這兩者都深受數位技術與人工智慧技術的影響。

A. 人工智慧、資訊生態系與集體智慧

鑒於網路上（即使僅限於數位平台）可取得的內容數量龐大，資訊的（至少）部分自動化編輯已不可避免。因此，用於建立使用者檔案並向其推薦內容的人工智慧工具，便成為關鍵技術。然而，我們必須質疑這些建立使用者檔案與推薦操作的標準與目的。正如傑拉爾德·布羅納（Gerald Bronner）所闡述的[1]，伴隨基於免費模式的經濟模式而來的資訊環境自由化，導致各方為爭取盡可能多的用戶注意力而展開激烈競爭。推薦演算法的設計目的，在於推送能讓使用者持續線上瀏覽的內容（藉此確保個人化廣告獲得最大曝光率，並實現最高效的資料蒐集）。這與旨在推廣有助於個人成長的內容（這類內容乍看之下往往較不吸引人）的推薦系統截然不同。

用戶画像與推薦系統特別可能在政治領域引發（無論是無意或有意）的有害影響。迴音室效應可能導致輿論嚴重兩極化。數位內容可經特別設計，藉此利用推薦系統與迴音室效應。這一點在利用生成式人工智慧工具日益容易製作的深度偽造新聞上尤為明顯。此外，收益與經濟權力集中於大型平台手中，可能導致政治權力的集中，特別是在影響輿論方面。這將嚴重削弱民主社會的根基與基本運作條件，例如威脅自由且透明的選舉組織。迴音室與（深度）假新聞甚至可能在地緣戰略衝突中被用作政治動盪的武器。推薦與用戶画像系統也可能被威權政權利用，以強化其對民眾的控制。與此同時，人工智慧技術亦有助於對抗這些威脅。我們可以稱之為某種「人工智慧戰爭」[2]——以資訊領域為戰場，由防禦性系統對抗攻擊性系統。人工智慧系統可經訓練以偵測深度偽造的圖像或影片；亦有可能開發出能限制假新聞傳播力的推薦與編輯系統。

從全球角度來看，我們可以期待人工智慧能協助我們改善資訊環境與集體智慧（例如推薦更多有益的內容、打擊假新聞等），但這在很大程度上將取決於我們能否推動正確技術的發展，並促進其最具正面效益的應用，以培養數位素養與倫理素養。這尤其意味著要培養數位素養與倫理素養，使相關利害關係人（從開發者到使用者）能夠建立適當的條件。例如，我們可以探討數位技術背後經濟模式的必要反思，以及「免費」這項海市蜃樓所引發的問題。

更根本地說，我們亦可深入反思「正確的技術」與「正向應用」等表述的涵義。運用人工智慧來輔助人類智慧或促進人類發展，而非扼殺它們，這正是貫穿諸多討論主題的「平衡」問題的另一種表述。若我們希望人工智慧能協助成年人保持「成年人」的特質，並反對將人工智慧用來將我們轉變為以人工智慧為「父母」的依賴性「嬰兒」，那麼關於何種支援是好的、何種是壞的，這裡還有許多值得探討之處。這個問題的一部分，涉及深化我們對「集體智慧」或「人類智慧」的理解——也就是我們期望人工智慧能加以提升的智慧。

B. 培育人類集體智慧究竟意味著什麼？

質疑我們對「理性」或「智慧」的既定觀念，以及我們如何能夠／應該去發展那些值得被稱為「知識」、值得被視為真理的觀念，這可能會帶來豐碩的成果。我們確實很容易認為，只要從推理過程中剔除主觀判斷、選擇、權衡取捨、價值問題等，就能提升理性或智慧…… 這種觀點無疑強化了「演算法與學習機器具有先發優勢」的觀念，因為它們終究僅基於對數據進行邏輯數學運算。憑藉其卓越的中立性，演算法因而能協助人類清除主觀性的污染，從而提升其理性。這種觀點也可能促使我們高度認可我們在另一個複雜性脈絡中提到的「演算法治理性」[3]。

然而，近期的科學史與科學哲學（至少自二十世紀後半葉以來）已向我們揭示了這種純粹基於演算法或程序的理性與智能觀念所存在的局限。任何科學方法，即使是最注重實驗的，都不可避免地依賴於人類的判斷與裁決（涉及應使用的基本術語、主要的方法論取向、應達成的目標…… ）[4] 電腦程式亦不例外，同樣離不開人類判斷。即使在機器學習的案例中，人類也必須就範例資料庫的品質、我們將嘗試自動調校的含自由參數程式類型，或是自動參數化程序本身等問題進行裁決。[5] 這類判斷或裁決並非「任意」做出（意指每個人都能在自己的角落隨心所欲）。這需要大量的技能與經驗，且絕非僅僅是以純粹中立或客觀的方式應用標準或程序即可。

所謂聰明或理性，當然是指能夠正確（客觀或中立地）應用標準、程序或演算法，但同時——或許更重要的是——也意味著能夠判斷標準與程序的品質，對我們所做之事抱持反思與批判的態度…… 因此，這意味著能夠以可能出錯的方式進行判斷與裁決，偶爾犯錯，自我修正，並不斷進化（同時在這方面互相幫助，以善意進行合作）……從這個意義上說，智慧是一種本質上充滿生命力的特質，是我們每個人唯有植根於自身的親身經歷（包含其中所蘊含的豐富性，同時也包含其局限性）[6]，並與他人建立健康的合作關係時，才能真正實踐的。

人類智慧的這種集體性與關係性層面至關重要，並將我們引回民主的議題——民主仰賴一個堅實的、供審議之用的主體間空間。當我與他人互動時，我的智慧便會提升，例如因為他們採用不同的分類方式（或以不同於我的方式運用我的分類）。民主與集體審議絕非僅是將個人意見盲目串聯起來，並讓多數人接受的意見佔據主導地位。它首先且最重要的是種共同生活與共同茁壯的方式。無論人工智慧系統有多麼聰明或「智能」，都不可能取代或自動化這種深層的集體人類智慧。這絕非對人類的支援，反而會扼殺人類的生命與智慧。因此，我們應思考的關鍵問題是：機器如何能幫助我們變得更聰明？隨著社會環境中越來越多無所不在的參與者（我們可以說我們構成了科技社會或混合系統），數位技術（包括人工智慧）不僅為我們提供資訊，更在轉變我們。我們必須反思這種轉變，以及我們希望它引領我們走向何方。數位技術如何有助於深化我們的生命體驗，使我們變得更睿智、更有經驗？何種類型的人工智慧系統與數位服務，才能真正促進我們的集體智慧與人類智慧？

[1] Gérald Bronner (2012), Apocalypse cognitive, Presses Universitaires de France

[2] https://www.latribune.fr/opinions/tribunes/lutte-contre-la-desinformation-la-guerre-des-intelligences-artificielles-997066.html

[3] 看: AI and digital technologies for public services and democratic life.

[4] Philip Kitcher, Science, Truth and Democracy, New York, NY: Oxford University Press, 2001, ISBN : 0-19-514583-6. Mathieu Guillermin, «Non-neutralité sans relativisme ? Le rôle crucial de la rationalité évaluative». Dans : Laurence Brière, Mélissa Lieutenant-Gosselin, Florence Piron (dir.), Et si la recherche scientifique ne pouvait pas être neutre ? Éditions Science et bien commun, 2019, 315-338.  https://scienceetbiencommun.pressbooks.pub/neutralite/chapter/guillermin/

[5] 如需更多詳情，請參閱這篇題為《複雜性交匯點》的專業見解: 應用於公共服務與民主生活的AI與數位技術, especially section B. 演算法是否比人類更中立？

[6] 例如: François Laplantine, The Life of the Senses: Introduction to a Modal Anthropology, Routledge (Sensory Studies), 2020, 176 p., ISBN 9781472531964