Être humain à l’époque des neurosciences et de l’intelligence artificielle implique d’explorer soigneusement les nœuds de complexité où des idées valables sont néanmoins en tension, manifestant des subtilités et des défis qu’il ne faut pas négliger. Chaque page exprime la ou les tensions existantes entre des idées et dans chaque thème, apparues dans les discussions collectives, et sont ensuite complétées par un éclairage des chercheurs du réseau NHNAI.
Complexité sur la santé n°1 : Comment distinguer entre soin, amélioration légitime et déshumanisation ?
Certains participants aux discussions ont souligné qu’il est dans la nature de l’homme de chercher constamment à progresser et à s’améliorer. Les progrès de l’IA et des neurosciences dans le domaine de la santé peuvent nous permettre d’augmenter nos capacités physiques et mentales (notamment grâce à des prothèses neurologiques ou à des interfaces cerveau-machine implantées). Ces technologies pourraient également prévenir la perte de capacité associée au vieillissement. Des pratiques similaires (prothèses de hanche ou prothèses articulaires) sont déjà largement acceptées par la société. On peut donc imaginer que des possibilités plus récentes liées à l’IA et aux neurosciences (comme les implants cérébraux) pourraient également devenir acceptables à terme.
Néanmoins, les discussions révèlent également une inquiétude quant aux motivations et à la signification de ces pratiques d’augmentation. Si l’utilisation des technologies de la santé dans un contexte curatif (pour lutter contre les handicaps ou les maladies dégénératives) semble acceptable pour de nombreux participants, les pratiques visant à augmenter de manière illimitée la longévité ou les capacités cérébrales, voire les applications militaires, sont considérées avec plus de prudence et sont même souvent critiquées.
L’accent est également mis sur le risque de survalorisation de la performance, de l’efficacité et de la productivité, avec une focalisation excessive sur les seuls aspects mesurables et quantifiables, au détriment de la prise en compte des questions de sens et de valeurs, des sentiments et des expériences de vie des personnes.
Ainsi, par exemple, il n’est pas certain que la bonne réponse à une fatigue importante ou à un sentiment de lassitude soit d’augmenter la résistance par le biais de technologies de la santé (telles que des médicaments ou des implants cérébraux). Nous devons envisager la possibilité qu’une telle fatigue ou lassitude puisse également signaler des problèmes plus profonds dans la vie d’une personne. De même, les discussions nous amènent à nous interroger sur l’idée même d’augmentation par la technologie, qui pourrait dans certains cas dégénérer en dépendance vis-à-vis de la technologie et en perte de compétence (est-ce que je deviens vraiment plus « puissant » si un implant cérébral me rend capable de performances cognitives plus importantes ? Que se passe-t-il si je n’ai plus accès à cette technologie ou si elle fonctionne mal ?)
Plus globalement, certaines contributions critiquent l’idée d’un désir systématique de dépassement et de rejet de toute forme de limite, désir qui pourrait aller jusqu’à menacer notre humanité même. Certaines limites et vulnérabilités (comme le fait d’être affectable et donc susceptible de souffrir et de mourir) sont au cœur de ce que signifie être humain.
Eclairages par les chercheurs :
Mieux comprendre la vulnerabilité avec David Doat, professeur agrégé de philosophie à l’Université Catholique de Lille, titulaire de la chaire ETH+ Chaire en Ethique, Technologie and Humanités:
« La vulnérabilité n’est pas la faiblesse ni la pauvreté. On ne peut pas non plus la réduire à la vieillesse, au handicap ou à la maladie. L’origine du mot vient du latin vulnus, qui signifie « blessure ». Mais là encore, il faut distinguer la « vulnérabilité » de la « vulnération ». Le premier terme renvoie à la possibilité d’être affecté dans sa structure physique ou psychique ; le second se réfère à l’état postérieur à une blessure. C’est important de faire la différence. Lors d’une rencontre amoureuse, par exemple, les amants sont dans un état de vulnérabilité en s’exposant l’un à l’autre, chacun se laisse ainsi affecter par l’être aimé mais tous deux ne sont pas blessés. La vulnérabilité peut être une chance. Mais on l’oublie. Très souvent, les personnes vulnérables sont associées aux personnes âgées, dépendantes, handicapées… Nous sommes tous vulnérables d’un point de vue anthropologique et exposés à des risques plus ou moins importants, mais il y a des vulnérabilités singulières, d’ordre social, économique, culturel, sanitaire. La personne de grand âge en maison de retraite est plus vulnérable à la Covid-19 qu’un jeune. Cela ne veut cependant pas dire qu’elle va l’attraper et en mourir. L’enjeu éducatif ou d’accompagnement ne consiste pas seulement à regarder le pôle des catastrophes. Il faut aussi considérer les situations dans lesquelles certaines personnes sont plongées, et qui peuvent être converties positivement. Nous avons quelque chose à faire avec et dans nos vulnérabilités. ».[1]
[1] Extrait de David Doat, 2021, « La vulnérabilité peut être une chance. Mais on l’oublie », Interview de Brigitte Bègue dans Actualités sociales hebdomadaires (N.3199 5 mars 2021), pp.38-39 https://www.ash.tm.fr/hebdo/3199/entretien/la-vulnerabilite-peut-etre-une-chance-mais-on-loublie-634607.php
Déconstruire l’idéal moderne d’un humain tout puissant et totalement autonome, avec Chiara Pesaresi, professeur agrégé de philosophie à l’Université Catholique de Lyon, directrice scientifique de la Chaire Universitaire des Vulnérabilités
« Il est vrai que le champ sémantique de la vulnérabilité renvoie traditionnellement à des représentations dévalorisantes, évoquant les idées de moindre résistance et d’échec. Se reconnaître vulnérable signifie précisément remettre en cause les imaginaires sociaux modernes et postmodernes centrés sur les idées de progrès, de maîtrise et de performance, et repenser nos logiques d’action (individuelles et collectives) à la lumière de la fragilité de nos vies, de nos institutions, et jusqu’à notre environnement.
Il s’agit au fond de déconstruire l’idéal moderne d’un homme complètement autonome, affranchi de ses limites et aussi des liens de dépendance vis-à-vis d’autrui. Cette vision de l’homme comme capable d’une autodétermination absolue a amené à réduire la vulnérabilité et ses manifestations à des défauts contingents, qu’il faut corriger, réparer, ou dépasser à tout prix (l’expression « design yourself », devise du mouvement cyborg, illustre bien ce principe). »
« Il ne s’agit pas toutefois de faire l’apologie de la vulnérabilité, de nier son caractère d’épreuve, critique voire tragique : au contraire, la reconnaissance de notre propre vulnérabilité s’inscrit toujours dans une dialectique de consentement et de résistance, d’acceptation et d’adaptation créative. Elle nous révèle aussi que nous ne sommes jamais des êtres isolés, parfaitement indépendants et autonomes. Emmanuel Levinas était convaincu que la subjectivité ne s’édifie que dans la rencontre de l’autre, où la vulnérabilité se présente comme notre trait commun : car c’est dans son visage que je reconnais à la fois sa nudité, sa vulnérabilité extrême, et la mienne. »[1]
[1] Extrait de l’article « Il est urgent de reconnaître la vulnérabilité dans nos vies », de Chiara Pesaresi, publié dans La Vie le 10 Mai 2022, https://www.lavie.fr/ma-vie/sante-bien-etre/il-est-urgent-de-reconnaitre-la-vulnerabilite-dans-nos-vies-82292.php
Des moyens sans précédent d’amélioration humaine (amplificateurs cognitifs, neuroprothèses, technologies de régulation émotionnelle, etc.) semblent se profiler à l’horizon. Leur potentiel d’amélioration de la qualité de vie et d’extension des capacités humaines au-delà des limites naturelles a été mis en évidence depuis longtemps (Bostrom & Roache, 2007). Néanmoins, le développement de ces technologies s’accompagne de préoccupations légitimes. En particulier, leur large diffusion pourrait créer des attentes irréalistes ou favoriser une culture dans laquelle les individus sont constamment soumis à une « pression d’amélioration » pour se conformer aux normes de la société. À long terme, cela pourrait exacerber les inégalités entre ceux qui ont accès financièrement à ces technologies et ceux qui n’y ont pas accès, ouvrant la voie à une nouvelle forme d’« élitisme biologique » (Sandel, 2007). Il est également à craindre que des valeurs sociétales importantes, telles que l’acceptation de la vulnérabilité et de l’imperfection humaines, qui sont souvent considérées comme des aspects importants de notre humanité commune, ne soient sapées par la quête constante d’améliorations technologiques. Il est donc impératif que des cadres éthiques exigeants soient mis en place pour encourager l’utilisation responsable des technologies et pour veiller à ce que l’amélioration potentielle des individus reste strictement une question de choix, offerte parfois comme une opportunité raisonnable, mais ne devienne jamais une obligation.
Références :
Bostrom, N., & Roache, R. (2007). Ethical Issues in Human Enhancement. In J. Ryberg, T. Petersen, & C. Wolf (Eds.), New Waves in Applied Ethics (pp. 120-152). Palgrave Macmillan.
Sandel, M. J. (2007). The Case Against Perfection: Ethics in the Age of Genetic Engineering. Cambridge, Harvard University Press.
