Être humain à l’époque des neurosciences et de l’intelligence artificielle implique d’explorer soigneusement les nœuds de complexité où des idées valables sont néanmoins en tension, manifestant des subtilités et des défis qu’il ne faut pas négliger. Chaque page exprime la ou les tensions existantes entre des idées et dans chaque thème, apparues dans les discussions collectives, et sont ensuite complétées par un éclairage des chercheurs du réseau NHNAI.
Complexité sur la santé n°5 : Technologies d’amélioration : trouver le bon équilibre entre innovation et sécurité
Certains participants aux discussions ont souligné qu’il est dans la nature de l’homme de chercher constamment à progresser et à s’améliorer. Les participants reconnaissent également que les progrès de l’IA et des neurosciences dans le domaine des soins de santé peuvent nous permettre d’accroître nos capacités physiques et mentales (notamment grâce à des prothèses neurologiques ou à des interfaces cerveau-machine implantées). Ces technologies pourraient également prévenir la perte de capacité associée au vieillissement. Des pratiques similaires (prothèses de hanche ou articulaires) sont déjà largement acceptées dans la société. On peut donc imaginer que des possibilités plus récentes liées à l’IA et aux neurosciences (comme les implants cérébraux) pourraient également devenir acceptables à terme.
Néanmoins, les débats mettent également en évidence les risques de dépendance ou d’autres effets secondaires tels que des changements de personnalité ou une altération des capacités de prise de décision.
Il est important d’évaluer correctement la balance bénéfices-risques.
Eclairages par les chercheurs :
La plupart des implants médicaux visent à compenser un mécanisme spécifique qui a été endommagé par une maladie neurodégénérative (ex : Parkinson) mais qui s’est révélé impliquer une dérégulation sur un autre aspect de notre comportement (addiction, impulsivité, perte d’identité…). Ces interventions ont été justifiées pour compenser la perte d’une capacité. L’application des mêmes dispositifs d’implantation cérébrale pour améliorer certaines capacités est problématique, non seulement du point de vue éthique de l’égalité d’accès à ces moyens, mais aussi parce qu’elle minimise l’importance de l’effort dans la réalisation de l’apprentissage du comportement. Il court-circuite le reste du corps avec lequel notre cerveau interagit pleinement et développe ses spécificités fonctionnelles. Le développement de ces implants pour les patients handicapés moteurs comme les tétraplégiques est très séduisant et sans aucun doute pleinement justifié. Mais considérer que d’autres capacités cognitives pourraient être renforcées par ces implants en court-circuitant le corps va à l’encontre du modus-operandi du système nerveux. S’engager dans ces démarches risque de faire croire au grand public que nos capacités mentales/psychologiques se comportent comme des modules indépendants dans le cerveau, ce que les recherches actuelles en neurosciences contredisent par leurs résultats les plus récents. Il est donc important d’éduquer le public sur la façon dont les neurosciences démontrent le lien intrinsèque entre le cerveau et le corps et sur le fait que l’apprentissage et le développement de nos capacités mentales et comportementales nécessitent des efforts (et peuvent entraîner de la frustration dans le processus). L’idée d’un cerveau composé de modules définis qui gèrent indépendamment certaines fonctions cognitives de haut niveau est fausse. Et promouvoir des artefacts neurotechnologiques avec une vision erronée du fonctionnement du système équivaut à propager de fausses connaissances scientifiques.
Le développement des technologies d’amélioration comporte un risque réel de dépendance, à la fois psychologique et physiologique. L’utilisation continue de dispositifs implantés d’amélioration cognitive peut conduire à des dépendances similaires à celles déjà observées aujourd’hui avec les stimulants. La recherche constante de la perfection peut également brouiller la distinction entre besoin et désir (Schermer, 2009). Une telle dépendance soulève non seulement des questions d’ordre médical, mais aussi des interrogations quant à son impact à long terme sur l’autonomie et la santé mentale.
La modification des fonctions cérébrales par des dispositifs externes peut également entraîner des perturbations de la personnalité et du comportement. L’amélioration de la mémoire ou de la prise de décision via les interfaces cerveau-machine (ICM) pourrait s’accompagner de modifications de la perception de soi, des interactions sociales, des traits de personnalité, ainsi que de l’identité en général (Ienca & Andorno, 2017). Ces altérations pourraient également concerner la pensée critique, le jugement ou les réponses émotionnelles, avec des impacts possibles sur la prise de décision, ouvrant ainsi des questions éthiques concernant le maintien de la responsabilité personnelle des individus (Fukushi et al., 2007).
Il est donc extrêmement important de subordonner le développement des technologies d’amélioration à des mesures de précaution et à des tests rigoureux, tant sur le plan médical que psychologique et social. Le défi consiste à s’assurer que ces technologies ne portent pas atteinte à l’autonomie et à l’identité qu’elles sont censées renforcer.
Références :
- Schermer, M. (2009). The mind and the machine: On the conceptual and moral implications of brain–machine interaction. NanoEthics, 3(3), 217-230.
- Ienca, M., & Andorno, R. (2017). Towards new human rights in the age of neuroscience and neurotechnology. Life Sciences, Society and Policy, 13(1).
- Fukushi, T., Sakura, O., & Koizumi, H. (Eds.). (2007). The ethics of brain-computer interfaces and human enhancement. Dordrecht: Springer.
De nombreuses personnes ne recherchent pas l’efficacité et l’amélioration de soi, mais doivent au contraire être contraintes d’apprendre de nouvelles choses et de s’améliorer. Nombreux sont ceux qui se contentent de la médiocrité et de la paresse.
Il y a ici des divergences de points de vue qui méritent d’être soulignées. Il a été affirmé plus haut que les êtres humains sont poussés à s’améliorer ; pourtant, lorsqu’il s’agit d’améliorations médicales ou neurologiques, les gens affirment également qu’il devrait y avoir des limites. Comment savoir si une amélioration est justifiée ou non ? Quand une intervention nous rend-elle plus humains et quand nous rend-elle moins humains ? Quel rôle joue le « naturel » dans cette détermination, et qu’est-ce qui est « naturel » pour les humains ?
