Le besoin d’une boussole éthique

Les défis sociétaux soulevés par l’IA et les neurosciences (NS) sont nombreux. Nous pouvons mentionner l’automatisation du travail, la prise de décision basée sur les données, les technologies de la persuasion, la neuromodulation par les implants neuronaux ou l’augmentation humaine [1]. Ces défis soulignent le besoin pressant pour tous les acteurs concernés (comme les institutions publiques et privées, les experts universitaires, les ingénieurs, les acteurs économiques, les responsables et décideurs politiques ou tout citoyen concerné) d’aller au-delà des simples aspects techniques et pratiques du développement de ces domaines pour considérer également leurs dimensions éthiques, morales et spirituelles. Les acteurs concernés par les défis sociétaux de l’IA et des NS ont besoin d’une boussole éthique collective afin de naviguer parmi les multiples possibilités offertes par ces domaines.

Le point aveugle de l’humanisme

De nombreuses initiatives éthiques (publiques ou privées) s’efforcent de répondre à ces défis et couvrent un éventail impressionnant de questions [2]. Certaines de ces initiatives sont soutenues par des acteurs très puissants disposant de moyens (financiers) considérables. Néanmoins, elles peuvent avoir des pieds d’argile dans la mesure où elles reposent sur une compréhension (implicite) de l’humanisme. En effet, les analyses et les lignes directrices éthiques invoquent couramment la notion d' »humain » (bien ou épanouissement de l’être humain, technologie centrée sur l’homme, nature humaine…) ou des concepts clés qui lui sont étroitement liés (dignité, autonomie…) [3]. Mais ce que cela signifie d’être humain à l’heure des NS et de l’IA, la question de l’humanisme, de qui sommes-nous et qui devons-nous être en tant qu’être humain dans cette nouvelle ère technologique, est insuffisamment interrogée.

Un point aveugle problématique

L’appel à cette notion d’humain est caractéristique de l’humanisme de l’époque moderne, qui s’ouvre avec la Renaissance et qui est marqué par  » un appel à ce qui est essentiellement, universellement humain « , appréhendé à travers un point de vue laïc émancipé de l’autorité de l’Église et de l’aristocratie [4]. Bien qu’il soit extrêmement facile de l’oublier, tant nous sommes habitués à manipuler les concepts d' »humain », de « condition humaine » ou de « nature humaine », la référence à une qualité universelle de l’humanité est assez récente, étroitement liée aux révolutions politiques du 18e siècle et aux discours associés sur les droits de l’homme [5].

Mais cette notion d’humain reste pour le moins ambiguë. Au-delà du point commun évident que partagent les humanistes du XIXe siècle avec  » leur conviction de la centralité de l’humain lui-même  » [6], la signification du terme « humain » reste controversée et multiforme (on peut par exemple comparer la tendance française et politique de l’humanisme axé sur la liberté et l’insistance philosophique de style allemand sur la connaissance et la compréhension). Ses composantes les plus centrales, telles que l’accent mis sur l’individu humain, sur la raison humaine et sur la liberté humaine, ont des conséquences ambiguës. Bien qu’ils soient clairement des facteurs de progrès, ils peuvent aussi dégénérer en excès menaçants. L’accent mis sur l’individu et sa liberté peut conduire à l’individualisme. La confiance dans la raison humaine soulève le risque du scientisme lorsque les limites et la faillibilité de la raison humaine sont occultées par sa puissance et ses succès. Même l’antagonisme avec la tradition religieuse cache de nombreuses subtilités [7].

En outre, cet humanisme que l’on invoque pour traiter les questions éthiques soulevées par les NS et l’IA n’est pas seulement une idée intrinsèquement problématique, il est aussi profondément perturbé par ces connaissances et technologies connues. L’intelligence n’est-elle pas l’une des caractéristiques essentielles de l’être humain ? Que devient l’identité d’une personne au regard des possibilités technologiques de la neuromodulation (jusqu’à la modification des émotions et de la personnalité des personnes) ? Ne sommes-nous que des machines ? Notre destin est-il de devenir obsolètes et de laisser la place aux post-humains ou aux superintelligences artificielles ? [8]

Voici un échantillon de questions qui démontrent clairement que, si elle doit être mobilisée dans l’éthique de l’IA et des NS, la notion d’humanisme doit être étudiée plus avant. Cela indique que notre capacité à formuler les défis de l’IA et des NS également en termes éthiques, moraux et spirituels (notre capacité à construire une boussole éthique collective) est entravée par l’absence d’une compréhension partagée, fiable et pertinente de l’humanisme à l’époque des NS et de l’IA. Malgré l’extrême variété et la portée considérable des efforts déjà déployés en matière d’éthique de l’IA et des NS, le sujet de l’humanisme lui-même reste une sorte d’angle mort qui laisse les acteurs concernés largement sous-équipés pour piloter le développement de la société à l’ère des NS et de l’IA. Leur capacité éthique à participer à la réglementation des NS et de l’IA a besoin d’être renforcée (renforcement des capacités éthiques*) par une réflexion sur l’humanisme et une meilleure compréhension de celui-ci.

En savoir plus sur le renforcement des capacites ethiques de NHNAI