Focus sur les nœuds de complexité : Santé

Être humain à l’époque des neurosciences et de l’intelligence artificielle implique d’explorer soigneusement les nœuds de complexité où des idées valables sont néanmoins en tension, manifestant des subtilités et des défis qu’il ne faut pas négliger. Chaque page exprime la ou les tensions existantes entre des idées et dans chaque thème, apparues dans les discussions collectives, et sont ensuite complétées par un éclairage des chercheurs du réseau NHNAI.

Les participants reconnaissent largement que les technologies de santé (y compris l’IA) peuvent aider les professionnels de la santé à prendre des décisions médicales (elles peuvent même être plus performantes dans certaines tâches). De même, ils soulignent que l’automatisation de certaines tâches peut permettre de consacrer plus de temps aux dimensions humaines des soins et des soins de santé (par exemple avec les robots soignants). Certains participants soulignent également que l’IA et les technologies numériques peuvent faciliter l’accès aux soins de santé et aux informations liées à la santé, notamment pour les soins préventifs et la prévention de la santé (en particulier dans les régions plus isolées ou plus pauvres). L’idée émerge également que les technologies numériques peuvent améliorer la formation médicale (par exemple avec la réalité virtuelle ou augmentée).

Toutefois, les discussions s’accordent largement sur le fait que l’IA et les technologies de santé devraient contribuer à un système de soins de santé plus humanisé. Elles ne doivent pas faire perdre de vue que les patients sont des personnes qui doivent être traitées selon une approche globale tenant compte de toutes les dimensions pertinentes et fermement ancrée dans l’empathie et les relations humaines. Ces dernières sont essentielles au processus de guérison et à la relation médecin-patient. D’une manière générale, les machines ne devraient pas remplacer les humains. En particulier, les tâches liées à la prise de décision médicale, à la communication et aux soins doivent rester humaines. S’il est vrai que les professionnels de la santé et les soignants manquent souvent de temps et sont épuisés, et que les systèmes de santé sont soumis à une forte pression, les technologies de l’IA ne constituent peut-être pas la bonne ou la principale réponse à ces problèmes majeurs.

Dans cette perspective, de nombreux participants mettent en garde contre le danger de trop se focaliser sur ce qui peut être mesuré et quantifié et de réduire les patients à leurs données (avec le risque que la médecine et les soins de santé deviennent trop prescriptifs et coercitifs). Les patients doivent être reconnus dans leur singularité et leur diversité.

Le risque de passer de la libération des soins – où la technologie soutient la prestation de soins – à la libération des soins, où les aspects relationnels et émotionnels essentiels de la prestation de soins sont diminués ou perdus, soulève d’importantes préoccupations éthiques. Selon l’éthique des soins de Joan Tronto (Tronto, 2013), la prestation de soins ne peut être considérée comme un simple ensemble de tâches à rationaliser, mais doit plutôt être perçue comme une pratique relationnelle impliquant attention, responsabilité et réponse aux besoins uniques des individus. En tant que tels, les défis et le travail émotionnel inhérents à la prestation de soins, aussi difficiles soient-ils, sont au cœur de sa signification et ne peuvent être entièrement pris en charge par des machines. Dans le même ordre d’idées, Michel Foucault prévient dans La naissance de la clinique (Foucault, 2003) que l’accent mis par la médecine sur la quantification et le contrôle peut réduire les patients à des données et les dépouiller de leur individualité et de leur humanité. Une dépendance excessive à l’égard de l’IA pourrait, bien entendu, renforcer cette tendance et transformer les soins de santé en une pratique plus prescriptive et impersonnelle. Selon Neumann et al. (2011) et Decety et al. (2014), l’empathie et la communication sont essentielles à la satisfaction des patients et aux résultats obtenus. Comme le soulignent Sherry Turkle et Noel Sharkey (Turkle, 2011 ; Sharkey, 2008), ce sont des qualités que l’IA et les robots soignants ne peuvent pas reproduire. Ainsi, les technologies, bien qu’utiles pour les tâches de routine, ne remplaceront probablement pas les dimensions émotionnelles et relationnelles profondes requises pour des soins significatifs.

Références :

• Decety, J., & Lamm, C. (2014). The empathic brain and its dysfunction in psychopathologies. Nature Reviews Neuroscience, 7(1), 735–748.
• Foucault, M. (2003). The birth of the clinic: An archaeology of medical perception. London: Routledge.
• Neumann, M., Edelhäuser, F., Tauschel, D., Fischer, M. R., Wirtz, M., Woopen, C., … & Scheffer, C. (2011). Empathy decline and its reasons: A systematic review of studies with medical students and residents. Academic Medicine, 86(8), 996–1009.
• Sharkey, N. (2008). The ethical frontier of robotics. Science, 322(5909), 1800–1801.
• Tronto, J. C. (2013). Caring democracy: Markets, equality, and justice. New York: New York University Press.
• Turkle, S. (2011). Alone together: Why we expect more from technology and less from each other. New York: Basic Books.

L’IA médicale pourrait être mieux à même de traiter les humains en tant que cas individuels que n’importe quel humain, simplement parce qu’elle peut réellement absorber le volume de données spécifiques à chaque individu.

L’IA peut être beaucoup plus patiente et empathique qu’aucun humain ne pourra jamais l’être : elle ne se fatiguera jamais, n’aura jamais besoin d’une pause, ne s’ennuiera jamais, etc. Les robots de compagnie et de conseil de l’IA sont, d’une certaine manière, déjà surhumains (et cela soulève de nombreux problèmes opposés à celui suggéré ici). La question clé est donc de savoir ce qu’un humain en particulier apporte à la relation médicale et pourquoi c’est important.

Comme nous l’avons mentionné plus haut, les êtres humains sont essentiels au système médical, mais leur rôle exact par rapport à l’IA, en particulier lorsque l’IA peut être « plus humaine » que les êtres humains ne peuvent l’être, reste en suspens. Si un hôpital entièrement automatisé était possible et avait des résultats médicaux supérieurs à ceux d’un hôpital doté d’un personnel humain, à quoi servirait-il d’aller dans l’hôpital doté d’un personnel humain ? Quel est l’avantage pour les patients si les personnes qui y travaillent sont plus bourrues, moins qualifiées et plus lentes ? Nous pouvons nous rappeler les opportunités de croissance bénéfiques qui accompagnent l’adversité, mais cela semble difficile à affirmer lorsque la santé et la vie humaines sont en jeu.

Cette question de l’équilibre entre humanité et efficacité est peut-être la question la plus centrale concernant l’utilisation de l’IA dans les soins de santé. Qu’est-ce que les humains apportent aux soins de santé en dehors de leur expertise ? Et ce facteur supplémentaire l’emporte-t-il sur l’efficacité, la précision et les autres améliorations que l’IA peut apporter ? La chaleur et l’attention que les humains peuvent apporter seront certainement appréciées, mais le système de soins de santé ne se concentre pas actuellement sur cet aspect – est-il possible de le remettre en avant ?

D’un point de vue théologique, les humains sont créés à l’image d’un Dieu qui est à la fois amour et logos (le « mot » divin, mais aussi la logique et la raison). Si l’IA nous prive du Logos, nous devrions alors « doubler » le côté « amour » des choses, ou nous risquons d’être entièrement remplacés. Cela nécessiterait un changement complètement révolutionnaire dans la compréhension du comportement humain et de la culture.