Livre blanc NHNAI

L‘humanité est confrontée à des défis majeurs, notamment le changement climatique, les inégalités, les tensions géostratégiques, l’affaiblissement des organisations politiques démocratiques (avec notamment des questions cruciales concernant l’équilibre entre les pouvoirs publics et privés, ainsi que l’intelligence collective et la menace de la « post-vérité »). De plus, ces multiples défis se manifestent tous simultanément et selon une dynamique très rapide et brutale. Comme l’illustre la célèbre analogie avec le « pharmakon », l’IA dispose d’un potentiel considérable pour contribuer soit à atténuer ces défis, soit à les amplifier.

L​’ère actuelle de l’IA — portée par des avancées telles que l’apprentissage profond et les grands modèles linguistiques (LLM) — se caractérise par un développement effréné et une concurrence mondiale intense. Cette ruée est alimentée par la perception de l’IA comme un moteur économique majeur, ce qui conduit à une « tyrannie de la lenteur » où toute tentative de réglementation est dénoncée comme un suicide économique. Cet environnement trépidant, dicté par le marché, associé à des asymétries de pouvoir croissantes favorisant les géants de la technologie qui adhèrent souvent à des idéologies techno-solutionnistes, rend le développement éthique de l’IA extrêmement difficile.

Le présent document constitue une première version élaborée par l’équipe de coordination de NHNAI grâce au soutien direct et aux contributions des partenaires de NHNAI. Il est désormais publié et ouvert aux commentaires et réactions. Les retours d’expérience permettront d’élaborer une deuxième version mise à jour.

Pour garantir une réglementation efficace et solide en matière d’IA, la société doit mettre en place un processus de réflexion inclusif et horizontal. Si les groupes d’experts et les représentants politiques sont indispensables, leur confier l’intégralité de l’effort réglementaire risque de déboucher sur un cadre technocratique ou élitiste, qui pourrait ne pas aboutir aux meilleurs résultats.

Une véritable gouvernance passe par la mobilisation de toutes les parties prenantes concernées. Une large participation est essentielle non seulement pour la qualité et le contenu des réglementations, mais aussi pour garantir une forte sensibilisation de la société à ces règles. Sans une compréhension et une implication généralisées, l’application et le succès à long terme des dispositifs de régulation de l’IA seront gravement compromis.

Avec l’IA, les considérations éthiques interviennent bien en amont de l’utilisation. Par exemple, les préoccupations concernant les outils de classification biaisés ou les moteurs de recommandation axés sur la captation de l’attention démontrent que la « qualité » éthique des résultats est en grande partie intégrée à la conception du système, et ne dépend pas uniquement du choix de l’utilisateur.

La réflexion de fond que la société doit mener doit reconnaître la nécessité d’une délibération éthique dès les phases de conception et de développement de l’IA. Cela nécessite une contribution participative des citoyens et des parties prenantes afin d’intégrer directement les valeurs dans le processus de création grâce à des méthodologies telles que la « conception sensible aux valeurs » (Value Sensitive Design, VSD).

L’éthique et la gouvernance de l’IA soulèvent des questions complexes qui constituent souvent des « problèmes épineux », nécessitant des transformations sociales et exigeant une coproduction transdisciplinaire de solutions, dans le cadre de laquelle divers experts contribuent à la réflexion collective.

On n’attend pas des experts qu’ils apportent des réponses aux problèmes en jeu. Leur expertise doit plutôt faciliter les processus d’autocritique, d’enrichissement mutuel et d’autotransformation au sein des groupes sociaux.

Ce travail collectif et transformateur (identifier les enjeux et rechercher des réponses) donne aux citoyens et aux parties prenantes les moyens de contribuer à l’élaboration des orientations en matière d’IA. Cette autonomisation est cruciale pour plusieurs raisons :

• Une contribution ascendante à la conception de principes éthiques et de réglementations juridiques descendants
• La mise en œuvre des règles au niveau local, créant ainsi des forces d’orientation ascendantes et horizontales
• Elle favorise des choix quotidiens et de consommation éclairés, contribuant ainsi à la création d’un espace économique viable pour l’entrepreneuriat éthique
• Elle permet aux communautés de définir des cas d’utilisation à forte valeur ajoutée, garantissant ainsi que les technologies d’IA contribuent véritablement aux sociétés humaines

S’engager dans une réflexion collective et renouvelée sur l’humanisme, en revisitant d’un œil critique des idées fécondes — telles que l’accent mis par Kant sur la liberté, la responsabilité et la faculté de jugement — et en les associant aux apports de l’IA et des sciences cognitives.

Cette compréhension approfondie et partagée de notre propre nature humaine est indispensable pour élaborer des principes éthiques fiables en matière d’IA.

L’IA est souvent présentée à tort comme une vague illimitée et inexorable menant à l’IAG (intelligence artificielle générale), alimentant ainsi des discours sur l’obsolescence de l’humain ou la perte de contrôle. Ces représentations trompeuses ignorent la dimension cruciale de l’IA en tant qu’artefact humain, occultant ainsi sa réalité politique et éthique. Il est essentiel de garantir une compréhension pas trop abstraite des technologies d’IA au sein des communautés participatives.

• Démystifier l’apprentissage automatique
• Rappeler la matérialité de l’IA
• Mettre en évidence la dépendance à l’égard de l’intelligence humaine tout au long du processus

Résister à l’injonction de l’« outcomisme » – cette prescription qui consiste à limiter la discussion sur les traits humains de l’IA à la seule comparaison des résultats observables entre les systèmes d’IA et les humains.

Remettre en cause l’hypothèse fondamentale selon laquelle les expériences intérieures vécues seraient des sortes de « trous noirs » sur lesquels on ne peut rien dire d’objectif ni de fiable (comme le fait l’« outcomisme »). En prenant au sérieux l’expérience vécue, la vie et la biologie, nous pouvons distinguer les êtres vivants de simples artefacts issus des technologies de l’information. Cette perspective renforce nos intuitions fondamentales concernant ce qui est vivant, conscient et doté d’autonomie ou de libre arbitre.

Remettre en question de manière critique la tendance linguistique courante à attribuer des traits humains tels que « l’intelligence », la « prise de décision » et un « rapport à la vérité » à l’IA et aux systèmes numériques. Cela risque d’éroder le statut ontologique unique des êtres humains, en nous encourageant à nous considérer comme de simples machines. Une gouvernance éthique exige que nous préservions la possibilité que ces termes désignent une réalité plus profonde et irréductible, enracinée dans la vie et l’expérience humaine vécue.

Les communautés humaines doivent développer une culture de l’IA en lien avec ces questions liées à la connaissance et à la vérité. Cette culture est nécessaire pour distinguer les systèmes existants capables de fournir des connaissances fiables (validées par des experts humains) de ceux qui ne sont que de puissants outils d’exploration. Elle est également indispensable pour explorer le type de nouveaux systèmes que nous pourrions développer afin d’apporter un soutien supplémentaire et spécifique aux différentes facettes de nos vies cognitives et épistémiques. Une réflexion approfondie s’impose pour attribuer à l’IA la place qui lui revient afin de préserver, de favoriser et de pérenniser nos efforts collectifs visant à nous rapprocher de la vérité.

Nous devons réfléchir aux risques de déqualification. Une utilisation excessive de l’IA peut entraver le développement cognitif. Une analyse approfondie s’impose pour identifier les compétences et les expériences vécues indispensables au maintien des facultés cognitives nécessaires à l’épanouissement humain.

Au-delà de la simple « correction » ou de la réglementation des algorithmes actuels, il s’agit de réorienter fondamentalement les modèles économiques pour qu’ils ne visent plus à capter l’attention, mais de concevoir une IA qui serve de terreau fertile à une véritable intelligence collective humaine et permette d’éviter les bulles cognitives.

Une menace éthique profonde pour cette agence réside dans la tentation du « déchargement cognitif ». Poussés par la « honte prométhéenne » (un sentiment d’infériorité face aux machines) et par une aversion au risque, les humains pourraient déléguer leurs décisions à l’IA afin d’échapper au poids de la responsabilité et au risque d’erreur. Cet abandon est incompatible avec la prise de décision au sens strict du terme, qui repose sur la capacité à s’affranchir des régularités du passé, à faire preuve de créativité et à imaginer d’autres possibilités. Peut-être plus menaçant qu’une prise de pouvoir brutale, nous sommes confrontés au risque d’une « perte progressive d’autonomie » — une érosion graduelle de l’influence humaine sur les systèmes sociétaux.

Pour lutter contre cela, un effort collectif est nécessaire afin de résister à la tentation de se réduire à un objet inerte, illusoirement déchargé de toute responsabilité ou de l’exercice pénible de l’autonomie. Nous devons concevoir des systèmes qui renforcent le jugement humain plutôt que de le remplacer. Nous devons débattre de questions clés : quel prix sommes-nous prêts à payer pour défendre l’autonomie humaine ? Comment garantir que les algorithmes soutiennent et renforcent nos capacités décisionnelles au sens fort, plutôt que d’encourager un transfert illégitime de responsabilité ?

S’opposer aux raccourcis « techno-solutionnistes » qui associent sans discernement l’innovation technologique au véritable progrès humain, en partant du principe que chaque problème a une solution technologique. Cette mentalité risque de réduire les enjeux humains à des indicateurs d’efficacité, en ignorant les causes profondes au profit de solutions technologiques superficielles.

Cette mentalité mécaniste traite toute limite, erreur ou vulnérabilité comme un défaut à éliminer. Or, la vulnérabilité ne peut se réduire uniquement à ses aspects négatifs ; elle correspond également à la possibilité fondamentale d’être touché. Tenter de l’éliminer est une erreur. La robustesse absolue est la négation de la vie ; c’est notre vulnérabilité qui nous permet d’aimer, de ressentir de la joie et de créer des liens avec les autres.

Nous devrions passer de la question trompeuse de savoir si l’IA peut nous rendre tout-puissants et invulnérables à celle-ci : comment pouvons-nous développer et utiliser des systèmes d’IA pour nous aider à mieux maîtriser et équilibrer cette vulnérabilité et cette faillibilité ambivalentes mais essentielles qui résident au plus profond de notre être ?

La réflexion collective visant à orienter le développement et l’utilisation de l’IA doit aborder les questions essentielles suivantes : comment, à l’ère de l’IA et, si possible, avec le soutien de celle-ci, favoriser et cultiver notre sensibilité à la vie et à la présence de personnes réelles, telles qu’elles se manifestent dans leur expérience vécue ? Plus encore, nous devons cultiver notre capacité à évaluer la valeur déterminante de la présence authentique par rapport à la simple apparence, à discerner où et comment celle-ci est primordiale, et comment elle doit être mise en balance avec des considérations relatives à la qualité des résultats.