在神經科學和人工智慧時代，身為人類意味著要仔細探索複雜性的交會點，在這些交會點上，看似合理的觀點卻存在著張力，展現出不容忽視的微妙之處和挑戰。每一頁都表達了在集體討論中湧現的觀點之間以及每個主題內部存在的張力，並輔以NHNAI網絡研究人員的真知灼見。

醫療領域的複雜性#6：如何在不扼殺醫療創新的前提下，監管技術並保護個人隱私和權益

參與者普遍認為，在醫療保健和醫學領域以及人類增強領域（改善醫療決策、自動化某些任務、增強獲取醫療保健和健康相關資訊、增強身心能力等）開發人工智慧和健康技術可以帶來許多益處。

同時，參與者也擔心敏感的健康資訊會被用於非醫療用途。人工智慧或數位工具收集的健康數據應該僅用於醫療保健目的。數位解決方案不應涉及外部機構（例如保險公司）的介入。

此外，隨著自然感知（NS）和人工智慧（AI）的融合，數據可能被用於增強對個人行為和思維的預測能力，以及認知操控的可能性。因此，精神隱私必須受到保護。

這就引出了一個棘手的監管問題。如同討論中所提到的，過於僵化的監管會阻礙創新，而過於寬鬆的監管則會損害病人安全。那麼，我們如何在鼓勵創新和保護患者之間找到合適的平衡點呢？

The following ideas can be found in the global and local syntheses downloadable here

  • AI and health technologies can improve medicine and health care: (Global – Health) Acknowledging the positive contribution of health technologies to healthcare
  • Potential positive outcomes of enhancement technologies: (Global – Health) Exploring the potential contributions of health technologies to humans’ self-improvement
  • Need for persons’ protection and tech regulation:
    • Global – Health) Regulating AI and health technologies in healthcare
    • (Global – Health) Being aware of challenges regulation raises
    • (Global – Health) Ensuring privacy protection (protection of sensitive health information and mind privacy)
    • (Global – Health) Recognizing patients in their singularity and diversity (within a comprehensive approach)
來自NHNAI學術網絡的見解：

Fernand Doridot（倫理學、科學哲學與技術哲學副教授（ICAM – 法國裡爾天主教大學，倫理學EA7440）

利用醫療保健數據為醫療保健創新提供資金的可能性一直備受爭議。如果能夠有效保護此類數據，並在獲得知情同意的情況下進行匿名化處理，那麼這可能是一條值得探索的途徑。然而，一些研究記錄了匿名化失敗的案例，導致重新識別的風險。 [1] 此外，研究也強調，在經濟誘因的影響下，弱勢族群可能遭受各種形式的濫用。 [2]

人們普遍認為，外部機構（例如保險公司）不應能夠存取健康數據，這一點至關重要。私人機構出於商業或歧視目的使用健康數據可能會嚴重損害公眾信任。歐盟《一般資料保護規範》(GDPR) 旨在保障健康資料僅用於明確的醫療目的，並對用於此目的的個人資料存取和使用施加了明確的限制。 [3]

人工智慧與神經技術的融合為預測或操控認知行為打開了大門，從而對認知隱私和精神自由構成了新的威脅。因此，許多學者強調保護「精神隱私」的重要性，尤其要透過監管手段來實現。 [4]

面對所有這些挑戰，區塊鏈等工具有時被認為能夠使個人控制對其健康數據的訪問，以及最終將其用於創新目的的可能性，前提是同時制定自願且嚴格的監管措施。

由於涉及安全性、有效性和倫理使用等諸多重要因素，人工智慧和醫療保健技術的創新必須輔以健全的監管框架。因此，醫療保健產業需要彌合創新與監管之間的差距。然而，過度監管可能會扼殺創新，阻礙對新技術的投資，並延緩拯救生命的技術進步。面對瞬息萬變的醫療保健技術格局，制定既靈活又適應性強的平衡監管方法至關重要。一些研究人員提出了適應性監管模式，在這些模式中，技術發展和監管同步演進，既為創新留出了空間，又不影響問責制。這樣，我們有望避免阻礙進步或在某些潛在危害面前對病人保護不足的雙重陷阱（Bouderhem，2024；Zhou & Gattinger，2024）。 [5]

[1] Ohm, P. (2010). Broken promises of privacy: Responding to the surprising failure of anonymization. UCLA Law Review, 57(6), 1701-1777.

[2] Vayena, E., & Tasioulas, J. (2016). The ethics of personalized medicine: New challenges and opportunities. Journal of Medical Ethics, 42(8), 451-454.

[3] Floridi, L., & Taddeo, M. (2016). What is data ethics? Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 374(2083), 20160360.

[4] Ienca, M., & Andorno, R. (2017). Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy, 13(1), 5.

[5] Bouderhem, R. (2024). Shaping the future of AI in healthcare through ethics and governance. Humanities and Social Sciences Communications, 11(416). Zhou, K., & Gattinger, G. (2024). The Evolving Regulatory Paradigm of AI in MedTech: A Review of Perspectives and Where We Are Today. Therapeutic Innovation & Regulatory Science, 58(456–464).