Être humain à l’époque des neurosciences et de l’intelligence artificielle implique d’explorer soigneusement les nœuds de complexité où des idées valables sont néanmoins en tension, manifestant des subtilités et des défis qu’il ne faut pas négliger. Chaque page exprime la ou les tensions existantes entre des idées et dans chaque thème, apparues dans les discussions collectives, et sont ensuite complétées par un éclairage des chercheurs du réseau NHNAI.
Complexité sur l’éducation n°1 : Comment rendre accessible une éducation de qualité tout en préservant le développement humain ?
Les relations humaines
Les participants ont souligné les avantages que l’IA peut apporter à l’éducation. À commencer par la numérisation, qui rend le matériel pédagogique en ligne accessible à tous, facilite l’enseignement en dehors des heures de classe, permet aux élèves et aux étudiants d’approfondir les sujets vus en classe et facilite le rattrapage des cours en cas d’absence grâce à des plateformes scolaires en ligne. Les forums de discussion et de débat en ligne permettent également aux personnes trop timides ou moins à l’aise à l’oral de s’exprimer. L’IA se présente également comme un assistant virtuel qui peut aider à l’apprentissage des langues. L’apprentissage des langues assisté par l’IA devient plus accessible grâce aux systèmes de traduction, qui sont désormais indispensables pour les personnes ayant des difficultés linguistiques ou pour les personnes sourdes ou malentendantes, comme cela a été mentionné au Kenya et en France. Et comme l’apprentissage des langues passe en partie par la pratique orale, les robots conversationnels sont parfois plus efficaces que les livres de langue. C’est exactement ce à quoi peuvent servir les chatbots comme ChatGPT. Utilisés à bon escient, ils peuvent être un formidable outil pédagogique, une aide nécessaire à l’apprentissage et complémentaire à l’enseignant. D’ailleurs, la complémentarité entre l’IA et l’enseignant a été soulignée à plusieurs reprises dans les discussions, et cela s’illustre notamment dans la personnalisation de l’apprentissage. L’IA permet de personnaliser les parcours d’apprentissage en fonction du rythme, du niveau et des capacités de chaque élève. Comme il est physiquement et cognitivement impossible pour l’enseignant de prendre en compte les spécificités de chaque élève, l’IA lui permet d’avoir une vision globale et d’identifier les élèves en difficulté qui ont davantage besoin de soutien.
Mais les participants reconnaissent également que la contribution de l’IA à l’éducation (plus d’inclusion, plus d’accès…) se fait très souvent au détriment de l’interaction physique et du contact humain, et cette préoccupation a été presque unanimement exprimée dans les discussions. La disponibilité de matériel d’apprentissage en ligne peut également avoir l’effet négatif d’encourager les élèves à investir moins de temps dans les activités en classe, voire d’inciter certains à abandonner l’école et à faire l’école à la maison, étant donné que tout est désormais disponible en ligne et à la portée de tous. Au Portugal et dans d’autres pays, on évoque également le risque que les jeunes, habitués à ce nouveau format de relations en ligne, se contentent de ces contacts virtuels et sous-estiment leurs besoins relationnels, émotionnels et physiques, au point de devenir distants et froids dans leurs contacts avec les autres. Selon un participant, nous ne pouvons pas nous passer des interactions réelles en face à face pour apprendre « comment être, comment savoir et comment agir ». Mais au-delà de cet apprentissage, c’est aussi dans les interactions physiques que se jouent l’empathie, l’émotion, la compréhension mutuelle et réciproque, bref la rencontre avec l’autre. Et, comme l’a souligné un participant au Canada, c’est parfois la présence d’un enseignant et la transmission de sa passion et de ses émotions qui jouent un rôle important dans la motivation et l’attention de l’apprenant, et donc dans son apprentissage. L’école n’est donc pas seulement un lieu d’apprentissage, mais aussi un lieu de partage, de rencontres, d’apprentissage de la vie en commun, de la vie en société. Par l’interaction physique, on se confronte, on apprend les codes sociaux et on transmet des valeurs. L’éducation numérisée, ou l’éducation qui se déroule trop derrière des écrans, risque à terme de renforcer l’individualisme et l’égoïsme, ce qui serait un frein majeur au vivre ensemble et une menace pour la cohésion sociale.
Eclairages par les chercheurs :
A. Éviter le désinvestissement dans les relations humaines et la réification de l’être humain
Basé sur les apports de Brian P. Green (professeur en éthique de l’IA et directeur de l’éthique des technologies au Markkula Center for Applied Ethics, Université Santa Clara, USA), et Laura Di Rollo (ingénieure d’études en sciences cognitives pour le projet NHNAI, UCLy (Université Catholique de Lyon), CONFLUENCE: Sciences et Humanités (EA 1598), France)
Premièrement, ce qu’expriment les participants aux discussions est un paradoxe que Sherry Turkle illustre à travers le titre de son livre « Seuls ensemble » (2015)[1], avec l’inquiétude que les jeunes n’investissent plus dans les relations humaines, et que l’on attende plus des technologies que des humains. Pourtant, les relations axées sur l’éducation sont parmi les plus importantes que nous ayons en tant qu’êtres humains. La plupart des gens se souviennent d’une personne qui leur a appris quelque chose, qu’il s’agisse de nos parents, d’un ami ou d’un professeur à l’école. Ces relations sont vitales pour notre humanité et l’IA les met en danger, en particulier de deux manières : 1) en tant que distraction de l’apprentissage, et 2) en tant que remplacement de l’apprentissage. L’IA optimisée pour attirer l’attention détourne les élèves de leur travail. Et l’IA qui génère des textes et d’autres objets « semblables à des produits éducatifs » permet aux étudiants de se substituer à l’IA dans le processus d’apprentissage, et donc d’apprendre beaucoup moins.
Les humains ont besoin les uns des autres, en particulier pour l’éducation. Sans socialisation ni éducation, nous devenons sauvages, comme des animaux domestiqués élevés dans la nature, mais, dans le cas de l’humanité, grossiers et corrompus. Pour devenir des êtres humains à part entière, les enfants ne devraient pas être élevés par des écrans et des algorithmes, mais par d’autres êtres humains à part entière.
En plus de présenter le risque d’un désinvestissement des relations humaines, les technologies numériques présentent aussi le risque de réification de l’être humain, i.e. le réduire à un objet. En effet, comme le souligne Sherry Turkle (2015), le risque est que notre « moi » se transforme en un « moi-objet » en ligne, où nous nous traitons de plus en plus comme des objets, c’est-à-dire de manière expéditive. L’exemple le plus parlant est certainement le courrier électronique. Les courriels sont une charge cognitive en soi, mais il s’agit parfois de messages d’amis ou de collègues que nous disons devoir « traiter » ou dont nous devons nous débarrasser pour les rayer de notre liste de choses à faire, comme si nous parlions de nos poubelles.
Au final, le danger est de perdre le sentiment d’être vivant, la manière d’être au monde qui préserve une certaine dignité et authenticité, et que seules les relations humaines et le contact humain peuvent procurer. L’IA a le potentiel d’être une arme de destruction massive pour le système éducatif mondial. Elle doit être désarmée et exploitée comme une source de pouvoir pour aider les humains à devenir meilleurs plutôt que de nous nuire en favorisant les pires aspects de notre nature. Il semble donc nécessaire de trouver un équilibre afin de bénéficier de ce que l’IA peut nous apporter, tout en préservant ces précieux contacts humains qui définissent en grande partie notre humanité, notamment à travers certains attributs. La voix humaine est à Sherry Turkle ce que le visage est à Levinas. Pour Sherry Turkle, c’est dans la voix que se transmet et s’entend la gamme des émotions humaines et la singularité de l’être. Pour Levinas, c’est par le visage que l’autre m’apparaît dans sa fragilité, sa vulnérabilité et sa singularité, ce qui appelle une injonction éthique à protéger et à ne pas blesser. Le visage est une interface qui nous permet d’entrer en relation avec l’autre et, à travers lui, avec l’humanité. On peut alors se demander si le danger qui menace l’humanité, avec des relations le plus souvent à distance et le plus souvent sans visage, n’est pas l’indifférence à l’autre, et avec elle, la perte du souci de l’humanité.
[1] Turkle, S. (2015). Seuls ensemble. De plus en plus de technologies de moins en moins de relations humaines. Échappée (L’).
B. Échapper à la montée des inégalités : Solidarité et Relations
L’IA en tant que moteur de l’inégalité sociale et économique est une question inéluctable car l’IA réduira la valeur du travail et augmentera la valeur du capital, éloignant ainsi la richesse des travailleurs au profit des propriétaires de l’IA. Comment préparer les étudiants d’aujourd’hui au monde étrange de demain, où le travail pourrait n’avoir aucune valeur et où seuls ceux qui possèdent déjà des richesses les conserveront, est un problème non résolu d’une proportion gargantuesque.
Les étudiants doivent savoir qu’un avenir étrange approche et être conscients que l’IA et les neurosciences sont des technologies en développement qui peuvent affecter leur avenir. En outre, l’incertitude suscitée par ces révélations ne doit pas prendre le pas sur l’importance croissante d’activités particulièrement humaines telles que la recherche de l’éthique, de la justice et de la création d’un monde plus solidaire. Si le travail intellectuel peut, dans certains cas, être automatisé, les relations d’entraide entre familles et amis ne pourront jamais l’être. Les relations humaines particulières ne sont pas fongibles et l’IA ne pourra donc jamais les remplacer. La valeur de la famille et des amis devrait être soulignée à nouveau et l’étude de ce qui constitue de bonnes relations devrait être un élément clé de la révision de l’éducation.
