在神經科學和人工智慧時代，身為人類意味著要仔細探索複雜性的交會點，在這些交會點上，看似合理的觀點卻存在著張力，展現出不容忽視的微妙之處和挑戰。每一頁都表達了在集體討論中湧現的觀點之間以及每個主題內部存在的張力，並輔以NHNAI網絡研究人員的真知灼見。

醫療複雜性之三：在不損害專業人員自主性和能動性的前提下改善醫療保健和醫學

與會者普遍認為，醫療技術（包括人工智慧）可以輔助醫療專業人員進行醫療決策（在某些任務上甚至可能表現更佳）。同樣，他們強調，某些任務的自動化可以為護理和醫療保健中的人文關懷騰出更多時間（例如使用護理機器人）。一些與會者也指出，人工智慧和數位技術可以促進人們獲取醫療保健和健康相關訊息，尤其是在預防保健方面（特別是在較為偏遠或貧困的地區）。此外，還有一種觀點認為，數位科技可以改善醫學訓練（例如，利用虛擬實境或擴增實境技術）。

然而，在討論中，人們普遍認同人工智慧和醫療技術應有助於建構更人性化的醫療保健體系。總的來說，機器不應取代人類。尤其是在醫療決策、溝通和照護方面，仍應由人類承擔。儘管醫護人員和護理人員常常時間緊迫、疲憊不堪，醫療保健系統也面臨巨大壓力，但人力智慧技術或許並非解決這些重大問題的正確或主要方案。

與會者也強調，醫護人員和照護人員應繼續掌握決策權，過度依賴此類技術長期來看可能有害（技能退化、技術不可用時應對能力下降）。重要的是，醫療決策的（道德）責任應始終掌握在人類手中。

The following ideas can be found in the global and local syntheses downloadable here

  • AI and health technologies can improve medicine and health care:
    • (Global – Health) Acknowledging the positive contribution of health technologies to healthcare
  • AI and health technologies should not lead to dehumanization of healthcare and medicine:
    • (Global – Health) Privileging AI cooperation and support instead of human replacement
  • Risk of overdependence and of problems with responsibility:
    • (Global – Health) Preserving human agency and autonomy (in healthcare)
    • (Global – Health) Never believing we can delegate (moral) responsibility to machines
    • (Global – Health) Fostering literacy and critical thinking
來自NHNAI學術網絡的見解：
A. 合作、獨立與責任

基於 Fernand Doridot（法國裡爾天主教大學倫理學、科學哲學和技術哲學副教授，倫理學 EA7440）和 Brian P. Green（美國聖克拉拉大學 Markkula 應用倫理中心人工智慧倫理學教授、技術倫理學主任）的見解

自動化偏見和技能退化的危害

儘管人工智慧在醫療保健領域具有許多優勢，但也存在一些風險，例如專業人員的「技能退化」。由於過度依賴人工智慧，醫生和護士面臨失去重要技能的風險。 Natali等人（2025）指出，臨床醫生可能會從獨立的臨床判斷轉向驗證演算法輸出的監督角色，導致技術和認知技能的退化，並降低他們對人工智慧建議的信心和質疑能力[1]。這種對人工智慧結果的過度自信更普遍地體現為一種“自動化偏見”，即人們認為人工智慧提出的建議更可靠，即使在需要人工幹預的情況下也是如此[2]。這種情況可能導致醫護人員因遵循誤導性建議或因缺乏機器指導而忽略重要環節而犯下嚴重錯誤[3]。因此，專業人員自主應對複雜或新穎情況（例如罕見病症或人工智慧系統故障）的能力逐漸下降，可能會削弱醫療保健系統的整體韌性。

因此，相關人員和專業人員應了解他們所使用技術的局限性，並在培訓中培養對這些技術的健康懷疑。

責任歸屬

儘管人工智慧在數據分析和診斷方面帶來了許多益處，但自動化也帶來了重要的倫理問題，例如，人類專業人員需要繼續承擔醫療決策的責任，並權衡其道德影響，尤其是在直接影響患者生命的情況下。 [4]

然而，維護人類責任的重要性並非沒有困難。例如，自動化系統會犯錯，而負責這些機器的人員很容易成為替罪羔羊。當機器出現故障時，「操作失誤」往往是人們首先想到的藉口，即便真正的原因在於極其複雜的互動系統，而任何個人都不可能合理地理解或負責該系統。此外，反對機器可能意味著承擔風險，而醫療專業人員可能會越來越不願意承擔這種風險。尤其是在前述自動化偏見可能侵入並削弱醫療服務提供者、病人和其他相關人員的自主權的情況下。這些人可能會將計算機的建議視為他們無法質疑的既定事實，如果他們反對但最終證明是錯誤的，他們將承擔責任，甚至可能受到懲罰。

因此，承認機器真正完成的工作至關重要。如果醫療從業人員在出現任何問題時都承擔全部責任，那就存在問題。他們將成為複雜系統的“替罪羊”，而這些複雜系統並非任何個人能夠合理負責。

獨立判斷與人工智慧的補充

人工智慧系統在許多醫學領域成為標準實踐只是時間問題。使用低於醫療標準的技術會被視為落後，甚至構成醫療事故。我們不應將人工智慧視為強加於醫療領域的異類。相反，它應該被引入醫療領域，因為人工智慧可以更好地解決某些問題。但這需要由醫療實務內部，由從業人員本身來評判。

因此，我們必須強調醫護人員需要接受獨立判斷的培訓，並在必要時能夠對人工智慧的決策提出異議。只有當人工智慧能夠補充而非完全取代人類的專業知識時，醫療保健的完整性才能得到維護。

[1] Natali, C., Marconi, L., Dias Duran, L.D. et al. AI-induced Deskilling in Medicine: A Mixed-Method Review and Research Agenda for Healthcare and Beyond. Artif Intell Rev 58, 356 (2025). https://doi.org/10.1007/s10462-025-11352-1

[2] Skitka, L. J., Mosier, K., & Burdick, M. (1999). Does automation bias decision-making?. International Journal of Human-Computer Studies, 51(5), 991–1006.

[3] Parasuraman, R., & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human Factors, 39(2), 230–253.

[4] Floridi, L., & Cowls, J. (2019). A unified framework of five principles for AI in society. Harvard Data Science Review, 1(1).