La complessità nella salute n. 3 (it)

Essere umani nell’era delle neuroscienze e dell’intelligenza artificiale significa esplorare con attenzione quei punti di intersezione della complessità in cui idee valide si trovano tuttavia in tensione tra loro, mettendo in luce sfumature e sfide che non devono essere trascurate. Ogni pagina illustra le tensioni esistenti tra le idee e all’interno di ciascun tema, emerse durante le discussioni collettive, e integrate poi dalle riflessioni dei ricercatori della rete NHNAI.

I partecipanti riconoscono ampiamente che le tecnologie sanitarie (compresa l’intelligenza artificiale) possono supportare gli operatori sanitari nel processo decisionale medico (e in alcuni compiti potrebbero persino ottenere risultati migliori). Allo stesso modo, sottolineano che l’automazione di determinati compiti potrebbe lasciare più tempo da dedicare agli aspetti umani dell’assistenza e della cura (ad esempio con i robot di assistenza). Alcuni partecipanti sottolineano inoltre che l’IA e le tecnologie digitali possono facilitare l’accesso all’assistenza sanitaria e alle informazioni relative alla salute, in particolare per quanto riguarda l’assistenza preventiva e la prevenzione sanitaria (soprattutto nelle zone più isolate o più povere). Emerge anche l’idea che le tecnologie digitali possano migliorare la formazione medica (ad esempio con la realtà virtuale o aumentata).

È tuttavia ampiamente condiviso nelle discussioni che l’IA e le tecnologie sanitarie dovrebbero contribuire a un sistema sanitario più a misura d’uomo. In generale, le macchine non dovrebbero sostituire gli esseri umani. In particolare, i compiti relativi al processo decisionale medico, alla comunicazione e alla prestazione di cure dovrebbero rimanere di competenza umana. Sebbene sia vero che gli operatori sanitari e gli assistenti spesso manchino di tempo e siano esausti, e che i sistemi sanitari siano sottoposti a forte pressione, le tecnologie di IA potrebbero non costituire la risposta giusta o primaria a queste importanti problematiche.
I partecipanti insistono inoltre sul fatto che gli operatori sanitari e gli assistenti dovrebbero rimanere responsabili del processo decisionale e che un’eccessiva dipendenza da tali tecnologie potrebbe rivelarsi dannosa nel lungo periodo (dequalificazione, perdita di resilienza in caso di indisponibilità delle tecnologie). È importante sottolineare che la responsabilità (morale) del processo decisionale medico dovrebbe rimanere nelle mani degli esseri umani.

Sulla base delle riflessioni di Fernand Doridot (professore associato di etica, filosofia delle scienze e delle tecnologie presso l’ICAM – Università Cattolica di Lille, ETHICS EA7440, Francia) e Brian P. Green (professore di etica dell’intelligenza artificiale e direttore del dipartimento di etica tecnologica presso il Markkula Center for Applied Ethics, Università di Santa Clara, USA)

I rischi del pregiudizio dell’automazione e della dequalificazione

Nonostante i vantaggi nel settore sanitario, l’IA comporta anche dei rischi, come la “dequalificazione” dei professionisti. Troppo abituati ad affidarsi all’IA, medici e infermieri rischiano di perdere competenze importanti. Natali et al. (2025) sottolineano che i clinici potrebbero passare da un giudizio clinico indipendente a un ruolo di supervisione volto a convalidare i risultati algoritmici, con conseguente erosione delle competenze tecniche e cognitive e una diminuzione della loro fiducia e capacità di mettere in discussione le raccomandazioni dell’IA[1]. Questa eccessiva fiducia nei risultati prodotti dall’IA si concretizza più in generale in un “pregiudizio di automazione”, per cui le raccomandazioni emesse dall’IA sono considerate più affidabili, anche nei casi in cui l’intervento umano sarebbe più pertinente.[2] Questa situazione può portare gli operatori sanitari a commettere gravi errori, seguendo raccomandazioni fuorvianti o trascurando elementi importanti a causa della mancanza di indicazioni da parte della macchina. [3] La resilienza complessiva del sistema sanitario potrebbe quindi essere indebolita dalla progressiva incapacità dei professionisti di affrontare in modo autonomo situazioni complesse o nuove, come patologie rare o malfunzionamenti dei sistemi di IA.

Gli attori e i professionisti interessati dovrebbero quindi conoscere i limiti della tecnologia che utilizzano, e (nella loro formazione) dovrebbe essere incluso un sano scetticismo nei confronti di tale tecnologia.

Attribuzione delle responsabilità

Nonostante i vantaggi offerti dall’intelligenza artificiale in termini di analisi dei dati e diagnostica, l’automazione solleva anche importanti questioni etiche, come la necessità che i professionisti umani continuino ad assumersi la responsabilità delle decisioni mediche e a valutarne le implicazioni morali, specialmente nei casi in cui vi sia un impatto diretto sulla vita dei pazienti. [4]

Tuttavia, l’importanza di preservare la responsabilità umana non è priva di difficoltà. Ad esempio, i sistemi automatizzati commetteranno errori e gli esseri umani “responsabili” di quelle macchine potrebbero facilmente essere trasformati in capri espiatori da incolpare. L’“errore dell’operatore” è spesso la scusa di prima scelta quando una macchina fallisce, anche se la vera colpa risiede in un sistema di interazioni estremamente complesso che nessun individuo potrebbe ragionevolmente comprendere o di cui potrebbe essere ritenuto responsabile. Inoltre, opporsi alle macchine può significare correre un rischio che gli operatori sanitari potrebbero diventare sempre più riluttanti ad assumersi. Soprattutto con il suddetto pregiudizio di automazione che rischia di intromettersi e di privare di potere gli operatori sanitari, i loro pazienti e altri. Questi attori potrebbero essere indotti a considerare semplicemente una raccomandazione del computer come qualcosa che non sono in grado di contestare, e se si oppongono e si sbagliano saranno ritenuti responsabili e possibilmente puniti.

Sarà quindi fondamentale riconoscere il lavoro che viene effettivamente svolto dalle macchine. È problematico che gli operatori sanitari si assumano tutta la colpa quando qualcosa va storto. Diventerebbero “capri espiatori” di sistemi complessi di cui nessun individuo può ragionevolmente essere ritenuto responsabile.

Indipendenza di giudizio e IA come complemento

È solo questione di tempo prima che i sistemi di IA diventino pratica standard in molti settori della medicina. Utilizzare qualcosa di inferiore allo standard medico sarebbe visto come un passo indietro o addirittura un motivo di negligenza professionale. Non dovremmo pensare che l’IA stia arrivando come un’imposizione estranea al campo medico. Dovrebbe invece arrivare perché ci sono determinati problemi che l’IA può risolvere meglio. Ma questo va valutato dall’interno delle pratiche sanitarie, con gli stessi professionisti.

Dobbiamo quindi sottolineare la necessità che il personale sanitario sia formato al giudizio indipendente e alla capacità di discostarsi dalle decisioni dell’IA se necessario. L’integrità dell’assistenza sanitaria può essere sostenuta solo se l’IA integra, ma non sostituisce completamente, la competenza umana.

[1] Natali, C., Marconi, L., Dias Duran, L.D. et al. AI-induced Deskilling in Medicine: A Mixed-Method Review and Research Agenda for Healthcare and Beyond. Artif Intell Rev 58, 356 (2025). https://doi.org/10.1007/s10462-025-11352-1

[2] Skitka, L. J., Mosier, K., & Burdick, M. (1999). Does automation bias decision-making?. International Journal of Human-Computer Studies, 51(5), 991–1006.

[3] Parasuraman, R., & Riley, V. (1997). Humans and automation: Use, misuse, disuse, abuse. Human Factors, 39(2), 230–253.

[4] Floridi, L., & Cowls, J. (2019). A unified framework of five principles for AI in society. Harvard Data Science Review, 1(1).