民主的複雜性 #3

在神經科學與人工智慧的時代，身為人類意味著必須仔細探索那些複雜性的交匯點——儘管其中存在著具說服力的觀點，但這些觀點之間仍存在張力，展現出不容忽視的微妙之處與挑戰。每頁內容皆闡述了集體討論中浮現的、存在於不同觀點之間以及各主題內部現有的張力，並輔以 NHNAI 網絡研究人員的見解。

參與討論的人士認同，在我們生活的許多層面運用人工智慧技術具有其價值，特別是為了在民主社會中促進更和諧的共處。除了人工智慧可能為集體政治決策或集體智慧帶來的支援（這部分已在專門探討複雜性的關聯性中討論過[1]）之外，部分參與者特別強調，人工智慧有助於提升安全，例如透過強化影像監控能力。另有參與者則指出人工智慧在安全方面的益處，包括提升預測與管理疫情或自然災害等危機的能力。

與此同時，討論中也明確展現了對基本權利與隱私保護的擔憂，尤其是心理隱私（現階段已涉及個人特徵分析演算法，而當神經科學被納入考量時，此問題將更加突出）。與會者特別擔憂私營及公營機構能大規模存取各類個人資料（包括健康狀況、觀點、選擇、習慣與習俗等），進而對隱私權造成壓力。

隱私權的削弱以及公共領域與私人領域界線的模糊化，可能會顯著阻礙思想與表達自由，並影響民主與社會生活。此外，與會者強調，提升安全與保障不應以犧牲最弱勢群體為代價，因為這些群體在主張自身權利時可能面臨更多困難。總體而言，絕不應將個人簡化為其所持有的數據。

[1] 請參閱以下複雜性的關聯：人工智慧與數位技術在公共服務及民主生活中的應用 以及 人工智慧服務於人類的集體智慧。

根據費德里科·喬爾吉（比利時那慕爾大學 ESPHIN 哲學博士後研究員）、布萊恩·P·格林（美國聖塔克拉拉大學馬庫拉應用倫理學中心人工智慧倫理學教授暨科技倫理學主任）的見解， 納塔納埃爾·洛朗（比利時那慕爾大學 ESPHIN 生物哲學副教授）以及伊夫·普萊（比利時那慕爾大學 ESPHIN–CRIDS 資訊與通訊新技術法學教授）的見解

A. 隱私權，民主的基石

隱私保護是集體生活的重要組成部分，特別是在民主社會中。保有某些事情的秘密、將其置於公共領域之外的權利，是極其根本的。正如比利時哲學家科倫坦·德·薩勒（Corentin de Salle）所指出的，隱私之所以極為重要，有幾個基本原因：[1]

首先，是為了維護人的尊嚴。可以說，這是出於基本禮節。其次，因為揭露本應保密的事項會使人處於弱勢。若當事人肩負責任，這可能削弱其權威；也會使其更難在職業生活中履行應盡的社會角色。此外，這還可能導致其弱點暴露，使不擇手段之人得以利用這些弱點來操縱、詐騙、盜用身分或對其造成傷害。最後，保護隱私之所以重要，是因為每個人都需要一個避風港——一個能讓他們在無須擔心自己所言、所行或所思的情況下，重新充電的地方。（……）

此外，隱私「並非與其他自由並列的基本自由，而是其他自由的先決條件。尤其是言論自由與行動自由。[正如伊夫·普萊特所言，如果我知道]自己正不斷受到監控，即使在更親密且私密的場合，我也將不再敢隨心所欲地表達自己。如果我時刻感到受到控制，又怎能隨心所欲地行動呢？」[2] 隨著新興的神經科技賦予了分析與操控大腦功能的新能力，隱私問題可能會變得更加嚴峻，甚至可能動搖我們的心理完整性與心理認同。或許現在正是時候，像某些國家已經做到的那樣，承認「神經權利」。

從另一個角度來看，隱私權的基礎在於個人與國家之間的權力差異。由於「知識即力量」，而國家所擁有的知識與權力遠遠超過個人，因此應促使國家對個人更加透明（政府資訊自由、範圍嚴格限定的政府機密），同時使個人對國家更加不透明（隱私權）。數位科技與人工智慧系統在某種程度上加劇了這種權力不對稱的問題，因為人工智慧不僅是國家所能掌控的力量，亦可由其他組織掌控；這些組織同樣應對公眾保持更高透明度，而公眾也應透過隱私權獲得保護，免受這些組織的侵害。

透過監控來維護公共安全的訴求，當然與前述的隱私權存在矛盾。安全與隱私之間的平衡極其取決於具體情境，因此各地情況各異；但總體而言，即使個人受到更嚴格的監控，仍可透過提升政府（或權力機構）方面的透明度，來確保個人權益得到保障。此外，必須強調的是，隱私絕不應僅從純粹的個人主義角度來考量。舉例來說，以使用者画像與推薦技術為例：我們必須考量到，我們的個人画像不僅是根據自身資料推導而出，更是源自將我們的資料與他人資料混合的大數據。這意味著，我們個人決定允許人工智慧應用程式收集與處理我們的資料時，某種程度上也牽涉到其他人。我們的資料可能會被用來對那些拒絕其資料被蒐集與處理的人進行個人檔案建構。事實上，在個人資料被利用的現象背後，隱含著一個關於我們希望生活在何種社會與經濟模式中的全球性問題，這個問題已超越了國家對公民監控的單一議題。

B. 監控資本主義

就此而言，我們可以援引祖博夫（Zuboff）的著作《監控資本主義時代》（2018）。祖博夫是哈佛商學院的名譽教授，以研究職場中的科技應用而聞名，她肩負一項重大任務：建立一套能精準捕捉當代科技公司熱潮的術語體系。她主張，監控資本主義透過收集、處理及分析人們的行為數據來獲利，所採用的方法會助長「徹底的冷漠」——這是一種在毫無見證者的情況下進行觀察的方式。這點使其有別於從開發自然資源與剝削勞動力中獲利的工業資本主義。監控公司從為自身用途所蒐集的數據中挖掘出海量資訊，並意識到可以將這份「數據殘餘」出售給廣告商。對他們而言，數據背後的人們不過是附帶品罷了。

祖博夫認為，由此產生的經濟結構是完全嶄新的：一種「流氓資本主義」。以往的企業依賴「原始積累」，而像臉書和谷歌這樣的監控公司則依賴持續進行的「數位剝奪」——這是她從大衛·哈維那裡借用的概念。我們每個人都不斷被這些公司轉化為可理解且能創造利潤的對象。祖博夫擔憂的，不僅是旨在限制自由意志的政府監控，更在於這些企業將利用人類的自由意志來達成其目標，並依賴我們所提供的可預測結果。

對祖博夫而言，這對現代自由主義的核心理念——個人——構成了令人不安的局面。她將監控資本主義視為 B.F. 斯金納（B.F. Skinner）心理學研究的延伸，該理論將人視為僅僅是其行為與反射的集合體。斯金納希望提升社會凝聚力與職場效率，而無視個體的選擇。祖博夫列舉了多個例子，說明監控資本主義如何與此類行為主義相關，例如生物辨識技術的發展，以及羅莎琳德·皮卡德針對自閉症使用者所進行的情感運算研究——該研究後來被監控新創公司所採用。所有這些都顯示，監控資本主義正逐漸侵蝕我們個人自由的基本權利。

[1] De Salle C., Tellier S., De Cooman J., Petit N., Duquenne E., Lombardo A., Hublet L. & Leduc P. (2018) La vie privée à l’ère des big data, Les Études du Centre Jean Gol, p. 9. https://www.cjg.be/les-etudes-du-cjg-la-vie-privee-a-lere-des-big-data/

[2] Ibid.