Essere umani nell’era delle neuroscienze e dell’intelligenza artificiale significa esplorare con attenzione quei punti di intersezione della complessità in cui idee valide si trovano tuttavia in tensione tra loro, mettendo in luce sfumature e sfide che non devono essere trascurate. Ogni pagina illustra le tensioni esistenti tra le idee e all’interno di ciascun tema, emerse durante le discussioni collettive, e integrate poi dalle riflessioni dei ricercatori della rete NHNAI.
Complexity on Health n. 6: Regolamentare le tecnologie e tutelare la privacy e l’integrità delle persone senza ostacolare l’innovazione medica
I partecipanti riconoscono ampiamente i benefici che si possono trarre dallo sviluppo dell’intelligenza artificiale e delle tecnologie sanitarie nel settore sanitario e medico, nonché nell’ambito del potenziamento umano (miglioramento del processo decisionale medico, automazione di determinate attività, maggiore accesso all’assistenza sanitaria e alle informazioni relative alla salute, potenziamento delle capacità fisiche e mentali, …).
Allo stesso tempo, i partecipanti sono anche preoccupati per il rischio che informazioni sanitarie sensibili vengano raccolte per usi non medici. I dati sanitari raccolti dall’IA o da strumenti digitali dovrebbero servire esclusivamente a fini medici e sanitari. Le soluzioni digitali non dovrebbero comportare l’intrusione di organizzazioni esterne (come le compagnie di assicurazione).
Inoltre, con la convergenza delle neuroscienze e dell’IA, i dati potrebbero essere utilizzati per migliorare la capacità di previsione dei comportamenti e dei pensieri delle persone, nonché le possibilità di manipolazione cognitiva. Pertanto, la privacy mentale dovrebbe essere protetta.
Ciò solleva la difficile questione della regolamentazione. Come evocato nelle discussioni, l’innovazione potrebbe essere ostacolata da una regolamentazione eccessivamente rigida, e la sicurezza dei pazienti compromessa da una regolamentazione eccessivamente permissiva. Quindi, come trovare il giusto equilibrio tra incoraggiare l’innovazione e proteggere i pazienti?
Approfondimenti dalla rete accademica NHNAI:
La possibilità di utilizzare i dati sanitari per contribuire al costoso finanziamento dell’innovazione in ambito sanitario è oggetto di un dibattito ricorrente. Ciò potrebbe rivelarsi una strada interessante, a condizione che la protezione di tali dati sia adeguata e che essi vengano utilizzati in forma anonima e previo consenso informato. Tuttavia, diversi studi hanno documentato casi in cui l’anonimizzazione ha fallito, comportando un rischio di reidentificazione. [1] È stato inoltre sottolineato che, sotto l’effetto di incentivi economici, le popolazioni particolarmente vulnerabili potrebbero essere soggette a vari tipi di abuso.[2]
È generalmente riconosciuto come molto importante che attori esterni, quali le compagnie assicurative, non possano accedere ai dati sanitari. La fiducia del pubblico potrebbe essere gravemente compromessa dall’uso dei dati sanitari da parte di organizzazioni private per scopi commerciali o discriminatori. L’uso dei dati sanitari esclusivamente per scopi medici espliciti dovrebbe essere garantito dal regolamento GDPR dell’UE, che impone chiare restrizioni all’accesso e all’uso dei dati personali a tal fine.[3]
La convergenza tra IA e neurotecnologia apre la porta alla previsione o alla manipolazione del comportamento cognitivo, ponendo così nuove minacce alla privacy cognitiva e alla libertà mentale. Diversi autori insistono quindi sull’importanza di proteggere la “privacy della mente”, in particolare attraverso la regolamentazione.[4]
Di fronte a tutte queste sfide, strumenti come la blockchain vengono talvolta citati come mezzi in grado di consentire agli individui di controllare l’accesso ai propri dati sanitari, nonché la loro eventuale disponibilità a fini di innovazione, a condizione che si sviluppi parallelamente una regolamentazione volontaria e rigorosa.
Data la posta in gioco in termini di sicurezza, efficacia e uso etico, è imperativo che l’innovazione nell’IA e nelle tecnologie sanitarie sia accompagnata da solidi quadri normativi. Il settore sanitario dovrebbe quindi essere in grado di colmare il divario tra innovazione e regolamentazione. Una regolamentazione eccessiva, tuttavia, potrebbe avere l’effetto di soffocare l’innovazione, scoraggiare gli investimenti in nuove tecnologie e rallentare lo sviluppo di progressi salvavita. Di fronte a un panorama tecnologico sanitario in rapida evoluzione, è quindi cruciale sviluppare un approccio normativo equilibrato che sia al tempo stesso flessibile e adattabile. I ricercatori hanno proposto alcuni modelli normativi adattivi, in cui lo sviluppo tecnologico e la supervisione evolvono simultaneamente, lasciando spazio all’innovazione senza compromettere la responsabilità. In questo modo, possiamo sperare di evitare il duplice rischio di ostacolare il progresso o di proteggere in modo insufficiente i pazienti di fronte a potenziali pericoli (Bouderhem, 2024; Zhou & Gattinger, 2024).[5]
[1] Ohm, P. (2010). Broken promises of privacy: Responding to the surprising failure of anonymization. UCLA Law Review, 57(6), 1701-1777.
[2] Vayena, E., & Tasioulas, J. (2016). The ethics of personalized medicine: New challenges and opportunities. Journal of Medical Ethics, 42(8), 451-454.
[3] Floridi, L., & Taddeo, M. (2016). What is data ethics? Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences, 374(2083), 20160360.
[4] Ienca, M., & Andorno, R. (2017). Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy, 13(1), 5.
[5] Bouderhem, R. (2024). Shaping the future of AI in healthcare through ethics and governance. Humanities and Social Sciences Communications, 11(416). Zhou, K., & Gattinger, G. (2024). The Evolving Regulatory Paradigm of AI in MedTech: A Review of Perspectives and Where We Are Today. Therapeutic Innovation & Regulatory Science, 58(456–464).
