Essere umani nell’era delle neuroscienze e dell’intelligenza artificiale significa esplorare con attenzione quei punti di intersezione della complessità in cui idee valide si trovano tuttavia in tensione tra loro, mettendo in luce sfumature e sfide che non devono essere trascurate. Ogni pagina mette in luce le tensioni esistenti tra le idee e all’interno di ciascun tema, emerse durante le discussioni collettive, e integrate poi dalle riflessioni dei ricercatori della rete NHNAI.
Complessità trasversale n. 4: sostenere il processo decisionale umano senza comprometterlo
Molti partecipanti alle discussioni collettive riconoscono che le tecnologie di intelligenza artificiale possono supportare gli esseri umani nel processo decisionale in vari ambiti (e persino ottenere risultati migliori in alcuni compiti). Possono aiutarci a organizzare l’enorme quantità di informazioni con cui dobbiamo confrontarci (soprattutto sui social network e su Internet) e contribuire a migliorarne la qualità (verifica dei fatti, lotta contro le fake news e i deepfake, …). Possono consentire di prevenire o gestire vari problemi e crisi (garantendo una maggiore sicurezza negli spazi pubblici grazie a una sorveglianza più efficiente, individuando frodi o casi di corruzione, anticipando epidemie o gli sbalzi meteorologici e i cambiamenti climatici, …).
Tuttavia, è anche ampiamente riconosciuto che il supporto dell’IA al processo decisionale può sollevare difficoltà estremamente acute. In primo luogo, potrebbe diventare difficile preservare l’autonomia decisionale umana, con la possibilità di discostarsi talvolta dalle raccomandazioni della macchina (ad esempio sulla base della riflessione umana con un’intuizione allenata). Ciò potrebbe diventare particolarmente problematico per i professionisti ai quali deleghiamo e conferiamo autorità, con il rischio di spostare la delega di autorità dai professionisti alle macchine (questa preoccupazione è stata espressa riguardo al rapporto medico-paziente, ma potrebbe probabilmente applicarsi anche nel contesto dell’istruzione riguardo al rapporto studente-insegnante). Inoltre, le catene e i modelli di responsabilità possono subire un indebolimento e un offuscamento. In questa prospettiva, non si dovrebbe mai perdere di vista il fatto che solo gli esseri umani, grazie alla loro consapevolezza e al pensiero critico, sono in grado di compiere scelte etiche e di prendere decisioni responsabili. Gli esseri umani sono quindi gli unici responsabili degli orientamenti tecnologici e delle conseguenze degli usi dell’IA.
Inoltre, e come hanno evidenziato le discussioni nel campo della democrazia, il coinvolgimento dell’IA (generativa) nell’elaborazione, nella gestione e nell’editorializzazione del nostro panorama informativo solleva questioni preoccupanti, con gravi rischi di minare e ostacolare l’intelligenza collettiva. Algoritmi distorti e/o iniqui possono propagare automaticamente e silenziosamente discriminazioni, creare bolle informative o cognitive che isolano gli individui in panorami informativi uniformi. L’IA (generativa) può facilitare e favorire la produzione e la diffusione di notizie false (deep fake). L’IA può danneggiare la nostra capacità di trovare informazioni accurate, affidabili e documentate, introducendo sfiducia tra i cittadini disinformati, compromettendo le buone scelte democratiche e il pluralismo.
Approfondimenti dalla rete accademica NHNAI:
La tesi secondo cui sarebbe possibile programmare un algoritmo in grado di prendere decisioni etiche per nostro conto viene talvolta definita «algoretica». Oltre alle numerose questioni critiche che una tale prospettiva comprensibilmente solleva — alcune delle quali sono state evidenziate dai partecipanti al dibattito NHNAI — è interessante notare come questo tipo di progetto tenda a ridurre la moralità di un’azione all’intenzione dell’agente di allineare il proprio comportamento a una serie di principi etici.
Questa visione deontologica dell’etica, sebbene non priva di argomenti a suo sostegno, appare in qualche modo riduttiva, in quanto non tiene sufficientemente conto degli esiti dell’azione intrapresa (Cabitza, 2021). Nel riflettere su come una nuova tecnologia debba essere utilizzata, sembra quindi più appropriato adottare un approccio consequenzialista, in cui il carattere morale di un’azione viene valutato principalmente in base alle conseguenze che produce.
