Rejoignez les discussions de la Bibliothèque Municipale de Lyon sur l’IA!

Que devrait-on déléguer aux machines ? Tout le monde devrait-il savoir programmer ? Comment l’IA peut-elle conduire à plus d’humanisation ? Voici les questions (et bien d’autres) qui ont été proposées lors de l’atelier d’écriture à la Bibliothèque Municipale de Lyon le 14 octobre 2023. Cet atelier a réuni 25 participants pour discuter et débattre autour des enjeux éthiques de l’intelligence artificielle, mais aussi pour en apprendre plus sur ce qu’est l’IA. Les participants étaient invités à mettre noir sur blanc leurs réflexions et contributions aux débats. Les différentes idées ont été rassemblées sur la plateforme de débat numérique CartoDEBAT.

Rejoignez ou poursuivez la discussion sur CartoDEBAT !

Nous avons réalisé une synthèse des premiers éléments de cette discussion. Nous avons identifié plusieurs idées marquantes, exprimées par les participants à la discussion. Nous vous proposons ces idées marquantes ci-dessous, accompagnées des contributions qui les expriment. En cliquant sur l’une de ces contributions, vous serez redirigé vers CartoDEBAT et l’espace de discussion en ligne.

N’hésitez pas à cliquer et à rejoindre les débats si vous souhaitez y réagir !

Vous pouvez également nous envoyer votre/vos contribution(s) par e-mail à : nhnai-network@univ-catholyon.fr (en nous précisant sur quelle question ou partie du texte vous souhaitez réagir). Nous publierons ces contributions pour vous !

Idées marquantes et contributions associées

L'apprentissage est primordial pour l'humain (7 extraits)

Même si les systèmes d’IA sont capables de faire des tâches à notre place, et le seront de plus en plus, il reste important pour l’humain de continuer à se former et d’apprendre, pour développer ses capacités cognitives de raisonnement, de réflexion et pour développer son esprit critique, pour garder le contrôle des systèmes d’IA et savoir aborder les questions existentielles de la vie.

Importance de l’apprentissage pour les enfants pour le développement, apports des neurosciences sur le sujet. Apprentissage et découvertes : ouvre des possibilités. Exemple : richesse de l’apprentissage d’une langue étrangère pour diversifier sa façon de penser.

Question de la joie de l’apprentissage, de l’autonomie et de l’indépendance. Donc oui, surtout pour garder la main sur le fonctionnement des algorithmes

Dans le domaines des langues : l’IA est capable de traduire, de doubler en allant jusqu’à adapter le mouvement des lèvres aux particularités des sons de la langue de sortie. Mais l’homme doit continuer à apprendre des langues pour aller vers d’autres cultures et être capable de les comprendre. Cela favorise les échanges enrichissants et la paix.

L’homme doit continuer à apprendre et à se former pour acquérir les outils propres à construire sa réflexion et sa liberté. Il doit continuer à être curieux pour répondre aux questions essentielles de la vie.

La formation permet d’évaluer si la tâche est mieux réalisée ou pas. La formation permet de comprendre la pertinence de la tâche. La formation doit s’adapter pour tenir compte de l’apport de l’IA et du traitement des connaissances

Oui dans la mesure où les paramètres qui permettent de répondre à une tâche peuvent être amenés à évoluer. La manière dont on va effectuer la tâche évolue avec le contexte dans lequel il se trouve (espace temps, interaction, espace géographique etc.) d’où l’importance de continuer à penser en parallèle.

Le but de l’éducation n’est pas seulement de développer la capacité à traiter correctement l’information, il est aussi de donner des outils pour réfléchir à un monde meilleur, à une vie meilleure. L’homme doit rester curieux pour découvrir de nouvelles routes et pour créer.

Des valeurs humaines absentes des technologies (3 extraits)

L’humanité est porteuse de valeurs qu’on ne retrouve pas toujours dans le fonctionnement des IA, notamment dans les IA génératives (comme la transparence, l’égalité, l’équité…).

Et la question du copyright sur les IA génératives qui génèrent des œuvres se posent ; celles-ci n’en auraient jamais été capables sans disposer du travail de ces artistes humains.

l’effet dangereux qu’engendre l’IA générative réside à mon avis dans sa manière d’arborer une posture d’autorité intellectuelle, en énonçant des faits comme si il s’agissait d’une vérité générale. Cet effet est renforcé par l’invisibilisation des sources.

Mon problème avec les IA type ChatGPT, qui font l’agrégat de quantités monstrueuses de données et considèrent la réponse la plus fréquente/probable comme étant « vraie » (même si cette notion est plus du côté de l’utilisateur que de l’outil): ces données manquent de variété géographique et temporelle. En effet, ces données étant exclusivement numériques, elles ne peuvent provenir que des civilisations occidentales post-post-industrielles, et omettent donc une majeure partie de ce qu’est l’humanité et de son histoire; différentes cultures, évolution de la pensée et de la technique, comment faire société …

Certaines dimensions appartiennent à l'humain et au vivant et doivent rester dans leur domaine (5 extraits)

Certaines dimensions, comme les émotions, appartiennent au vivant et doivent de ce fait, rester de son domaine. Il semble préférable de réserver l’émotionnel à l’humain car les émotions humaines sont authentiques et ne peuvent par conséquent qu’être imitées ou copiées par l’IA, au risque de perdre cette authenticité.

En développant les capacités émotionnelles qui nous distinguent des autres être vivants comme l’empathie.

Après, cela peut permettre de générer de la nouveauté. Mais la nouveauté pour la nouveauté est-elle une bonne chose? Quelle émotion l’observateur ressent-il (si aucune) devant cet art nouveau?

Les machines ne sont pas capables de ressentir des émotions authentiques; tout ce qui touche à l’émotionnel ne peut pas conséquent qu’être copié, notamment l’ART.

Je réserve à l’être humain ce qui dépend des émotions et des opinions (soins à la personne)

Si elle remplace des interactions humaines même si ces dernières sont des interactions indirectes (comme moyen et non comme fin) par exemple l’épicier qui peut être remplacé opérationnellement mais pas dans la création de valeur sociale générée dans l’interaction ( sociabilité, isolement, reconnaissance, estime de soi)

Il est souhaitable d'automatiser les tâches répétitives (3 extraits)

Rôle des machines : tâches répétitives, sans intérêt majeur pour l’humain

L’IA pour permettre d’assister des métiers ou des tâches ayant des impacts néfastes sur la santé humaine

à l’instar des évolutions technologiques majeurs qui ont délester les humains des taches éprouvantes et répétitifs, l’IA à mon sens s’inscrit dans cette continuité.

Mais cette idée pose la question de la place du travail des personnes peu qualifiées dans la société :

Si on automatise tout ce qui est manuel/pénible/répétitif, quelle place en société pour les individus qui ne sont pas capables de contribuer intellectuellement à un tel niveau de réflexion ?

Il faut favoriser une connaissance générale sur l'IA (4 extraits)

Il semble important de favoriser une connaissance générale du public sur les technologies et l’IA afin d’avoir un usage éclairé de ces technologies, d’aborder de manière rationnel ses enjeux éthiques et de lutter contre le manque d’acculturation au numérique et à l’IA qui peut créer de l’exclusion.

Non mais connaissance générale sur les nouvelles technologies pour éviter : – risque de dérive sectaire, aspects magiques de la technologie – risque de projection des émotions humaines/ anthropomorphismes – manipulation par les algorithmes Garder en tête que le code c’est juste des langages

Risque d’oublier que la machine n’est pas humaine et qu’elle fonctionne différemment de nous. Importance de l’éducation pour savoir ce qu’est un algorithme. Exemple de chatGPT avec beaucoup de gens qui ignorent que c’est un logiciel d’écriture predictive donc du bullshit mais pas de l’information.

Apprentissage de l’esprit critique, de la méta-cognition. Nécessité de comprendre comment l’IA fonctionne pour comprendre ses biais

Question de la joie de l’apprentissage, de l’autonomie et de l’indépendance. Donc oui, surtout pour garder la main sur le fonctionnement des algorithmes

Ce n’est pas l’IA qui est déshumanisante, mais son utilisation. Question des bots, des standards automatiques. Si on ne sait pas formuler la demande, on est exclu. Problème d’accès à la connaissance, risque de classicisme, d’inégalités.

Il est intéressant d'utiliser l'IA auprès des personnes handicapées pour renforcer l'humanisation (1 extrait)

Importance de l’IA pour l’aide aux personnes avec handicap, avec des troubles de neurodéveloppement

Il est souhaitable d'utiliser l'IA pour favoriser l'innovation (1 extrait)

Mais apport des IA génératives pour le thinking out of the box, facteur d’innovation, de surprise.

Il ne faut pas automatiser des tâches humaines si cela conduit à un appauvrissement de notre intelligence(3 extraits)

Naturellement, l’être humain ne saura plus mener un raisonnement. Le cerveau humain se contente toujours de faire au minima. L’être humain va s’appauvrir intellectuellement.

Si les machines produisent tout à notre place, l’humain risque de perdre toute motivation à apprendre et à progresser. Il risque de se limiter au rôle de consommateur et de ne plus être apte à créer, ou bien cette aptitude pourrait n’être réservée qu’à une petite élite.

Certaines taches au-delà de leurs aspects performatives, suscitent un changement en nous, déléguer une tache de manière définitive, c’est être déposséder d’un savoir, d’une sociabilité, d’une vision du monde impactée par la pratique de cette dite tâche.

Comment participer sur CartoDEBAT ?

Les discussions en ligne se trouvent sur la plateforme de débats numérique CartoDébat. Voici des consignes pour savoir comment participer :

Il vous faudra tout d’abord créer un compte avec une adresse e-mail valide, vous recevrez par e-mail une confirmation.
Choisissez une thématique de débat qui vous intéresse
Une fois sur le débat, vous trouverez à gauche du texte et à droite les contributions. Il vous suffit de surligner ce sur quoi vous souhaitez réagir (cela peut être dans le texte à gauche mais aussi dans les contributions à droite si vous souhaitez réagir sur ce quelqu’un a dit), de cliquer sur « argumenter », et de renseigner votre contribution avec un code couleur :
- En vert « oui et » : votre contribution est complémentaire
- En rouge « oui mais » : votre contribution apporte un élément en tension
- En bleu « pas compris » : vous avez une incompréhension sur une contribution, vous vous sentez en désaccord car vous n’en comprenez pas la légitimité et les raisons (ce qui peut être l’occasion de proposer des reformulations pour aider au processus de compréhension)
Quelques conseils de lecture : il n’est pas utile de lire toutes les contributions à droite pour participer, concentrez-vous sur la partie de gauche. Si vous souhaitez réagir à un endroit, vérifiez que personne n’y a déjà contribué (avec les pastilles qui s’affichent). Si quelqu’un a déjà posté un commentaire, nous vous invitons à en prendre connaissance et à contribuer soit en réaction à son commentaire (en surlignant son commentaire), soit en réaction au texte de gauche si c’est une nouvelle idée qui n’a pas été exprimée.

Rejoignez les discussions de la Bibliothèque Municipale de Lyon sur l’IA!

Rejoignez ou poursuivez la discussion sur CartoDEBAT !

Idées marquantes et contributions associées

L'apprentissage est primordial pour l'humain (7 extraits)

Des valeurs humaines absentes des technologies (3 extraits)

Certaines dimensions appartiennent à l'humain et au vivant et doivent rester dans leur domaine (5 extraits)

Il est souhaitable d'automatiser les tâches répétitives (3 extraits)

Il faut favoriser une connaissance générale sur l'IA (4 extraits)

Il est intéressant d'utiliser l'IA auprès des personnes handicapées pour renforcer l'humanisation (1 extrait)

Il est souhaitable d'utiliser l'IA pour favoriser l'innovation (1 extrait)

Il ne faut pas automatiser des tâches humaines si cela conduit à un appauvrissement de notre intelligence(3 extraits)

Comment participer sur CartoDEBAT ?

Comment créer un compte ?

Comment publier une contribution ?

Comment analyser les débats ?

Comment inviter à rejoindre le débat ?

Rejoignez les discussions de la Bibliothèque Municipale de Lyon sur l’IA!

Rejoignez ou poursuivez la discussion sur CartoDEBAT !

Idées marquantes et contributions associées

Comment participer sur CartoDEBAT ?

Comment créer un compte ?

Comment publier une contribution ?

Comment analyser les débats ?

Comment inviter à rejoindre le débat ?

Share this post