在神经科学和人工智能时代,作为人类,需要仔细探索复杂性的联系,其中有效的想法仍然处于紧张状态,表现出不容忽视的微妙之处和挑战。每一页都表达了集体讨论中出现的思想之间和每个主题内部现有的紧张关系,然后得到了 NHNAI 网络研究人员的见解的补充。

健康的复杂性#6:规范技术并保护个人的隐私和完整性,同时又不扼杀医疗创新

参与者在很大程度上承认,在医疗保健和医学以及人类增强领域开发人工智能和健康技术可以带来好处（改善医疗决策、某些任务的自动化、增强获得医疗保健和健康相关信息的渠道、增强身心能力等）。

同时,参与者还担心敏感健康信息被收集用于非医疗用途的风险。人工智能或数字工具收集的健康数据只能用于医疗和保健目的。数字解决方案不应意味着外部组织（如保险公司）的入侵。

此外,随着NS和AI的融合,数据可以用来增强对人行为和思维的预测能力,以及认知操纵的可能性。因此,心灵隐私应该受到保护。

这就提出了一个艰难的监管问题。正如讨论中所提到的,过于严格的监管可能会阻碍创新,而过于宽松的监管则会损害患者的安全。那么,我们如何在鼓励创新和保护患者之间取得适当的平衡呢？

The following ideas can be found in the global and local syntheses downloadable here

  • AI and health technologies can improve medicine and health care: (Global – Health) Acknowledging the positive contribution of health technologies to healthcare
  • Potential positive outcomes of enhancement technologies: (Global – Health) Exploring the potential contributions of health technologies to humans’ self-improvement
  • Need for persons’ protection and tech regulation:
    • Global – Health) Regulating AI and health technologies in healthcare
    • (Global – Health) Being aware of challenges regulation raises
    • (Global – Health) Ensuring privacy protection (protection of sensitive health information and mind privacy)
    • (Global – Health) Recognizing patients in their singularity and diversity (within a comprehensive approach)
NHNAI学术网络的见解:

Fernand Doridot（伦理学、科学与技术哲学副教授（ICAM – 里尔天主教大学,ETHICS EA7440,法国）

使用医疗保健数据为昂贵的医疗保健创新融资做出贡献的可能性是一个反复争论的焦点。这可能被证明是一个有趣的途径,前提是此类数据的保护令人信服,并且是在知情同意的情况下匿名使用的。然而,许多研究都记录了匿名化失败的案例,导致重新识别的风险。[1] 还有人强调,在经济激励措施的影响下,特别脆弱的群体可能会受到各种类型的虐待。[2]

人们普遍认为,保险公司等外部行为者不应能够获取健康数据,这一点非常重要。私人组织将健康数据用于商业或歧视目的可能会严重损害公众信任。欧盟 GDPR 法规旨在保证仅将健康数据用于明确的医疗目的,该法规为此目的对个人数据的访问和使用施加了明确的限制。[3]

人工智能和神经技术的融合为预测或操纵认知行为打开了大门,从而对认知隐私和心理自由构成了新的威胁。因此,一些作者强调保护“心灵隐私”的重要性,特别是通过法规。[4]

面对所有这些挑战,区块链等工具有时被认为可能使个人能够在自愿和严格监管并行发展的条件下控制对其健康数据的访问及其最终用于创新目的的可用性。

由于安全性、有效性和道德使用方面的利害关系,人工智能和医疗保健技术的创新必须伴随着健全的监管框架。因此,医疗保健行业有望弥合创新与监管之间的差距。然而,过度监管可能会扼杀创新,阻碍对新技术的投资,并减缓救生进步的发展。因此,面对快速变化的医疗保健技术格局,制定灵活且适应性强的平衡监管方法至关重要。研究人员提出了一些适应性监管模式,其中技术发展和监督同时发展,在不影响问责制的情况下为创新提供空间。通过这种方式,我们可以希望避免阻碍进展或在面临某些潜在危害时保护不足的双重陷阱（Bouderhem,2024;Zhou & Gattinger,2024)。[5]

[1] Ohm, P. (2010). Broken promises of privacy: Responding to the surprising failure of anonymization. UCLA Law Review, 57(6), 1701-1777.

[2] Vayena, E., & Tasioulas, J. (2016). The ethics of personalized medicine: New challenges and opportunities. Journal of Medical Ethics, 42(8), 451-454.

[3] Floridi, L., & Taddeo, M. (2016). What is data ethics? Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 374(2083), 20160360.

[4] Ienca, M., & Andorno, R. (2017). Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy, 13(1), 5.

[5] Bouderhem, R. (2024). Shaping the future of AI in healthcare through ethics and governance. Humanities and Social Sciences Communications, 11(416). Zhou, K., & Gattinger, G. (2024). The Evolving Regulatory Paradigm of AI in MedTech: A Review of Perspectives and Where We Are Today. Therapeutic Innovation & Regulatory Science, 58(456–464).