Être humain à l’époque des neurosciences et de l’intelligence artificielle implique d’explorer soigneusement les nœuds de complexité où des idées valables sont néanmoins en tension, manifestant des subtilités et des défis qu’il ne faut pas négliger. Chaque page exprime la ou les tensions existantes entre des idées et dans chaque thème, apparues dans les discussions collectives, et sont ensuite complétées par un éclairage des chercheurs du réseau NHNAI.
Complexité transversale n°2 : Fixer des limites et des règles malgré les défis
Il existe un fort besoin de réglementation et de normes pour garantir que les technologies de l’IA et des NS produisent des résultats positifs. Les normes et la réglementation sont essentielles à l’instauration de la confiance et à la protection des personnes lors du déploiement de nouvelles technologies. L’IA devrait respecter les valeurs humaines (équité, impartialité, …) et être centrée sur l’être humain (visant à son épanouissement). L’IA et les technologies des NS devraient bénéficier à tous (il est crucial de lutter contre l’exclusion des personnes pauvres et vulnérables).
Cependant, la réglementation soulève de nombreuses questions aiguës, ce qui en fait un défi très difficile à relever. Parmi ces questions, on peut évoquer le rythme du développement technologique, l’obscurcissement des modèles de responsabilité (avec les technologies numériques en général et plus particulièrement avec l’apprentissage automatique), l’accès souvent « facile » à des outils puissants (dans la main d’acteurs mal intentionnés, des technologies telles que la reconnaissance d’images ou de visages peuvent devenir extrêmement nuisibles), l’échelle mondiale de la recherche et du développement (avec la diversité des systèmes de valeurs dans le monde ainsi que des constellations de conflits d’intérêts), la difficulté d’appliquer les réglementations (dans un contexte aussi diversifié et international).
D’une manière générale, la réglementation devrait favoriser une utilisation raisonnée et saine des technologies de l’IA et des NS. Néanmoins, il peut s’avérer extrêmement difficile d’identifier ce qui est raisonné et sain et ce qui ne l’est pas (par exemple, dans le cas de la modération des médias sociaux : qui est le bon acteur ? Ou le cas des technologies de la santé avec des zones grises entre les utilisations curatives et d’amélioration : qui peut décider si une pathologie nécessite / justifie l’utilisation d’une technologie de la santé donnée ?) Les parties prenantes, les professionnels, les citoyens et les acteurs économiques/industriels devraient être impliqués dans les processus de régulation.
Eclairages par les chercheurs :
Comme les participants l’ont clairement indiqué, la réglementation sera essentielle pour s’assurer que l’IA est orientée vers ses meilleures utilisations et qu’elle est éloignée des pires. Il s’agit là d’une préoccupation sérieuse de la part de tous les partenaires mondiaux du projet NHNAI, et cette préoccupation est renforcée par le fait que des acteurs mauvais ou neutres tenteront d’exploiter – ou du moins de ne pas avoir le bien commun à l’esprit – lorsqu’ils déploieront des systèmes d’IA dans notre monde.
L’IA ne doit pas seulement respecter les valeurs humaines et être exclusivement centrée sur l’être humain, car comment viser l’épanouissement d’une espèce vivante dont l’existence dépend d’innombrables interdépendances avec d’autres espèces vivantes et avec son environnement terrestre ? Les limites et la régulation pourraient alors provenir d’une approche décentrée comme celle introduite par Aldo Leopold il y a cent ans :
En étendant « les frontières de la communauté pour inclure le sol, l’eau, les plantes et les animaux, ou collectivement, la terre », l’éthique foncière de Leopold ne dépasse pas seulement les frontières de l’humanité (les frontières ordinaires de la moralité), elle devient celle d’une communauté mixte, incluant diverses populations d’espèces différentes. Cela devrait enrichir notre compréhension de la variété des devoirs au sein de la communauté biotique. »
En gardant ces valeurs à l’esprit, des questions importantes se posent :
– Que devient l’humanisme s’il prend en compte l’ensemble du réseau relationnel de l’existence sur notre planète ?
– Que deviennent les projets scientifiques et les avancées technologiques si nous essayons de les rendre compatibles avec les interdépendances qui rendent possibles les expériences de vie ?
– Plus précisément, quels sont les bénéfices potentiels de l’IA pour la terre dans sa globalité (globalité de toutes les interactions et complexité à les appréhender) ?
