Être humain à l’époque des neurosciences et de l’intelligence artificielle implique d’explorer soigneusement les nœuds de complexité où des idées valables sont néanmoins en tension, manifestant des subtilités et des défis qu’il ne faut pas négliger. Chaque page exprime la ou les tensions existantes entre des idées et dans chaque thème, apparues dans les discussions collectives, et sont ensuite complétées par un éclairage des chercheurs du réseau NHNAI.

Complexité transversale n°2 : Fixer des limites et des règles malgré les défis

Il existe un fort besoin de réglementation et de normes pour garantir que les technologies de l’IA et des NS produisent des résultats positifs. Les normes et la réglementation sont essentielles à l’instauration de la confiance et à la protection des personnes lors du déploiement de nouvelles technologies. L’IA devrait respecter les valeurs humaines (équité, impartialité, …) et être centrée sur l’être humain (visant à son épanouissement). L’IA et les technologies des NS devraient bénéficier à tous (il est crucial de lutter contre l’exclusion des personnes pauvres et vulnérables).

Cependant, la réglementation soulève de nombreuses questions aiguës, ce qui en fait un défi très difficile à relever. Parmi ces questions, on peut évoquer le rythme du développement technologique, l’obscurcissement des modèles de responsabilité (avec les technologies numériques en général et plus particulièrement avec l’apprentissage automatique), l’accès souvent « facile » à des outils puissants (dans la main d’acteurs mal intentionnés, des technologies telles que la reconnaissance d’images ou de visages peuvent devenir extrêmement nuisibles), l’échelle mondiale de la recherche et du développement (avec la diversité des systèmes de valeurs dans le monde ainsi que des constellations de conflits d’intérêts), la difficulté d’appliquer les réglementations (dans un contexte aussi diversifié et international).

D’une manière générale, la réglementation devrait favoriser une utilisation raisonnée et saine des technologies de l’IA et des NS. Néanmoins, il peut s’avérer extrêmement difficile d’identifier ce qui est raisonné et sain et ce qui ne l’est pas (par exemple, dans le cas de la modération des médias sociaux : qui est le bon acteur ? Ou le cas des technologies de la santé avec des zones grises entre les utilisations curatives et d’amélioration : qui peut décider si une pathologie nécessite / justifie l’utilisation d’une technologie de la santé donnée ?) Les parties prenantes, les professionnels, les citoyens et les acteurs économiques/industriels devraient être impliqués dans les processus de régulation.

Eclairages par les chercheurs :