Être humain à l’époque des neurosciences et de l’intelligence artificielle implique d’explorer soigneusement les nœuds de complexité où des idées valables sont néanmoins en tension, manifestant des subtilités et des défis qu’il ne faut pas négliger. Chaque page exprime la ou les tensions existantes entre des idées et dans chaque thème, apparues dans les discussions collectives, et sont ensuite complétées par un éclairage des chercheurs du réseau NHNAI.
Complexité sur la démocratie n°3 : Garantir la sûreté et la sécurité sans compromettre les droits fondamentaux
Certains participants reconnaissent l’intérêt d’utiliser les technologies de l’IA pour améliorer la sûreté et la sécurité (amélioration des capacités de vidéosurveillance, capacité accrue à prévoir et à gérer les crises telles que les épidémies ou les catastrophes naturelles).
Dans le même temps, les discussions font clairement apparaître des inquiétudes concernant les droits fondamentaux et la protection de la vie privée, en particulier la vie privée cognitive (déjà avec les algorithmes de profilage, et encore plus lorsque les neurosciences s’ajoutent au tableau). L’affaiblissement de la protection de la vie privée et l’effacement des limites entre les sphères publique et privée peuvent notamment entraver la liberté de pensée et d’expression ainsi que la vie démocratique et sociale. En outre, les participants insistent sur le fait que l’amélioration de la sécurité et de la sûreté ne doit pas se faire au détriment des plus vulnérables, qui peuvent avoir plus de difficultés à faire valoir leurs droits. D’une manière générale, les personnes ne devraient jamais être réduites à leurs données.
Eclairages par les chercheurs :
Cette étude belge récente[1] peut apporter un éclairage sur l’expertise :
« En 2023, l’accès à l’internet et aux outils numériques a continué d’augmenter, tout comme l’utilisation des services en ligne. Cependant, 40% des Belges restent dans une situation de vulnérabilité numérique, en raison de compétences numériques insuffisantes ou de la non-utilisation de l’internet. L’accélération de la numérisation de notre société n’entraîne donc pas une augmentation proportionnelle des compétences numériques ».
Un autre rapport intéressant est le suivant : http://www.cjg.be/wp-content/uploads/2018/12/CJG-ETUDE-Big-Data-Page-par-page.pdf
Extrait :
« POURQUOI LA VIE PRIVÉE EST-ELLE SI IMPORTANTE ? POUR PLUSIEURS RAISONS. Tout d’abord, pour préserver la dignité des personnes. Par pudeur, pourrait-on dire. Ensuite, parce que révéler des choses qui devraient rester secrètes rend les gens vulnérables. Cela peut saper leur autorité s’ils ont des responsabilités. Il lui est plus difficile d’assumer le rôle social qu’il doit jouer dans sa vie professionnelle. Elle peut aussi révéler ses faiblesses et permettre à des personnes peu scrupuleuses de les exploiter pour les manipuler, les escroquer, voler leur identité ou leur nuire. Enfin, la protection de la vie privée est importante car chacun a besoin d’un refuge, d’un endroit où il peut se ressourcer sans se soucier de ce qu’il dit, fait ou pense.»
« La vie privée n’entretient-elle pas une relation particulière avec les autres libertés ? C’est ce que pense le professeur et juriste Yves Poullet, spécialisé dans le droit des technologies de l’information. Selon lui, la vie privée n’est pas une liberté fondamentale à côté des autres libertés, mais une condition des autres libertés, notamment la liberté d’expression et la liberté de circulation. Si je sais, dit-il, que je suis constamment espionné, je n’oserai plus m’exprimer comme je le souhaite, même dans des cadres plus intimes et privés. Si je me sens contrôlé en permanence, comment puis-je me déplacer comme je le souhaite ? »
[1] https://kbs-frb.be/fr/quatre-belges-sur-dix-toujours-risque-dexclusion-numerique
En ce qui concerne la vulnérabilité humaine, des régimes antidémocratiques ont déjà commencé à orienter l’IA vers ses utilisations les plus néfastes. Les peuples libres du monde doivent faire tout ce qui est en leur pouvoir pour se protéger contre ces pouvoirs maléfiques et déterminer comment les faire reculer jusqu’à ce qu’aucun d’entre eux n’y soit plus soumis. C’est possible, mais l’effort doit être fait : nous devons travailler.
Il convient de réfléchir à la finalité de la vie privée, qui existe au moins en partie pour remédier au différentiel de pouvoir entre l’individu et l’État. Parce que le savoir est un pouvoir, et que l’État a beaucoup plus de savoir et de pouvoir que l’individu, l’État doit être plus transparent pour l’individu (liberté d’information sur le gouvernement, secret gouvernemental limité), et l’individu plus opaque pour l’État (droit au respect de la vie privée).
L’IA est un pouvoir qui peut être contrôlé par les États, mais aussi par d’autres organisations, et ces organisations devraient également être rendues plus transparentes pour le public et le public également protégé de ces organisations par le droit à la vie privée.
Le désir de sécurité publique par le biais de la surveillance est, bien sûr, en tension avec le droit à la vie privée mentionné ci-dessus. L’équilibre entre sécurité et vie privée est extrêmement contextuel et varie donc d’un endroit à l’autre, mais en général, la transparence du côté du gouvernement (ou de l’organisation puissante) de l’équation peut être améliorée de la même manière afin de continuer à protéger les individus même s’ils sont davantage surveillés.
L’utilisation de l’IA pour soutenir l’épanouissement humain et non l’étouffer est une autre version de la question de l’« équilibre » qui a été abordée dans plusieurs thèmes ci-dessus. Il y a encore beaucoup à dire sur les types de soutien qui sont bons et ceux qui sont mauvais. Nous voulons que l’IA aide les humains adultes à devenir des « adultes » et nous nous opposons à l’utilisation de l’IA pour nous transformer en « nourrissons » dépendants dont l’IA serait le « parent ».
