La complessità della democrazia #1 (it)

Essere umani nell’era delle neuroscienze e dell’intelligenza artificiale significa esplorare con attenzione quei punti di intersezione della complessità in cui idee valide si trovano tuttavia in tensione tra loro, mettendo in luce sfumature e sfide che non devono essere trascurate. Ogni pagina mette in luce le tensioni esistenti tra le idee e all’interno di ciascun tema, emerse durante le discussioni collettive, e integrate poi dalle riflessioni dei ricercatori della rete NHNAI.

Il contenuto delle discussioni mostra che molti partecipanti riconoscono l’interesse delle tecnologie di IA nell’aumentare l’efficienza dei servizi pubblici rendendoli più accessibili (attraverso la digitalizzazione) e più efficienti (grazie all’automazione di determinati compiti, ad esempio quelli amministrativi). L’IA e le tecnologie digitali sembrano inoltre essere considerate interessanti per facilitare la vita democratica e il processo decisionale politico (in particolare attraverso l’analisi dei dati per comprendere meglio le tendenze dell’opinione pubblica).
Ciononostante, molti partecipanti sottolineano anche l’importanza di non relegare gli esseri umani in secondo piano e di non assoggettarli interamente agli algoritmi. Si è discusso a lungo sull’importanza di lasciare gli algoritmi al loro posto, come strumenti al servizio degli esseri umani e in cooperazione con essi (ma non per sostituirli interamente). La vita collettiva (democratica) richiede di preservare (o addirittura aumentare) l’empatia e le relazioni tra gli esseri umani. L’automazione e la digitalizzazione dei servizi pubblici non sono necessariamente, di per sé, vantaggiose per tutti. Alcune fasce della popolazione potrebbero avere difficoltà ad accedere agli strumenti digitali, e gli algoritmi potrebbero contenere pregiudizi e automatizzare certe forme di discriminazione. L’affidamento alle tecnologie digitali potrebbe inoltre innescare problemi di fiducia nei confronti degli Stati. Le tecnologie di IA possono persino essere utilizzate per esercitare una forma di controllo sui cittadini, minando la loro libertà di scelta, di espressione e di pensiero. È quindi importante per i partecipanti che il processo decisionale (a livello politico o di servizio pubblico) rimanga sotto il controllo umano.
L’automazione e l’uso dei dati nella conduzione degli affari pubblici possono quindi essere fonte di grandi progressi, ma non devono andare a discapito degli esseri umani (o di alcuni gruppi più vulnerabili). Le tecnologie di IA mobilitate devono essere affidabili (le speranze ingannevoli suscitate dall’annuncio della digitalizzazione potrebbero minare ulteriormente la fiducia nei governi) e dimostrare elevati livelli di equità, responsabilità e trasparenza (per garantire la costruzione della fiducia e l’accettazione sociale).
A un livello più fondamentale, molti partecipanti rivendicano una sorta di diritto a non essere ridotti ai propri dati digitali.

Ispirandosi alle idee di Brian P. Green (Professore di Etica dell’Intelligenza Artificiale e Direttore di Etica della Tecnologia presso il Markkula Center for Applied Ethics, Università di Santa Clara, USA), Mathieu Guillermin (Professore Associato di Etica delle Nuove Tecnologie presso l’UCLy (Università Cattolica di Lione), UR CONFLUENCE: Scienze e Lettere (EA 1598), Lione, Francia), Nathanaël Laurent (Professore Associato di Filosofia della Biologia (Università di Namur, ESPHIN, Belgio) e Yves Poullet (Professore di Diritto delle Nuove Tecnologie dell’Informazione e della Comunicazione (Università di Namur, ESPHIN – CRIDS, Belgio)

A. Migliorare l’efficienza dei processi democratici senza compromettere l’unicità delle persone

L’intelligenza artificiale può aiutarci in molti ambiti. Vogliamo utilizzarla per migliorare l’efficienza nelle cose positive e, allo stesso tempo, per ridurre l’efficacia di quelle negative. L’intelligenza artificiale può rendere più facile aiutare le persone? Può essere impiegata per smascherare la corruzione? In quali altri aspetti positivi può essere d’aiuto e quali aspetti negativi può contribuire a fermare? L’uso dell’IA per rafforzare i processi democratici è interessante, anche se probabilmente irto di controversie, ma forse in grado di realizzare cose mai possibili prima con la democrazia, come condurre sondaggi su intere popolazioni e scoprire cosa “il popolo” pensi realmente su molte questioni politiche, con le relative barre di incertezza, e così via. Una nuova forma di democrazia potrebbe essere possibile. Ciò non significa che sarà migliore, ma potrebbe valere la pena condurre uno studio pilota e sperimentarla.

Qualsiasi sforzo in questo senso non dovrebbe tuttavia mai minare la centralità della persona umana (e degli altri esseri viventi). Un primo principio fondamentale che dovremmo affermare è il diritto di tutti a partecipare alla società dell’informazione. Questo diritto deve essere progressivamente ampliato poiché l’uso delle infrastrutture e di alcuni servizi digitali sta diventando oggi sempre più essenziale per lo sviluppo della nostra personalità. Questo diritto implica il diritto all’istruzione per l’alfabetizzazione digitale[1], nonché il diritto ai “servizi di piattaforma fondamentali” quali le comunicazioni, i social network e i motori di ricerca.

Preservare la centralità della persona umana significa anche rispettare il principio della supervisione umana (il controllo da parte di persone umane del funzionamento dei sistemi di IA). Inoltre, le persone non dovrebbero mai essere integralmente soggette a decisioni prese da sistemi automatizzati. Le spiegazioni delle decisioni devono essere fornite da persone umane e deve essere garantito un diritto di ricorso.

Questo rispetto per la centralità della persona umana si ricollega a uno degli assi portanti della posizione di Papa Francesco sull’IA in relazione alla resistenza contro ciò che egli chiama il “paradigma tecnocratico”: “Il rispetto fondamentale della dignità umana significa rifiutare che l’unicità della persona sia identificata da un insieme di dati. Non si deve permettere che gli algoritmi determinino il modo in cui comprendiamo i diritti umani, mettano da parte i valori essenziali della compassione, della misericordia e del perdono, o eliminino la possibilità che un individuo cambi e si lasci il passato alle spalle.”[2]

B. Gli algoritmi sono più imparziali degli esseri umani?

Tenendo presente questo, è importante consolidare la nostra acculturazione collettiva alla tecnologia digitale. In effetti, il concetto di algoritmo può facilmente suggerire l’idea di un’assenza di pregiudizi e quella di una maggiore razionalità o obiettività rispetto al giudizio umano (dopotutto, gli algoritmi sono procedure logico-matematiche che non lasciano spazio all’arbitrarietà o alla soggettività umana). Tuttavia, questa connotazione nasconde una realtà ben più contrastante.
L’intuizione di base è valida: se una discriminazione è esplicitamente programmata, essa “apparirà” nel programma e il programmatore potrà essere chiamato a renderne conto. Tuttavia, questa trasparenza non è necessariamente garantita nei programmi di IA ottenuti attraverso il cosiddetto machine learning. Senza
voler entrare nel coro di coloro che descrivono questi programmi come scatole nere (possiamo osservare i calcoli che vengono effettuati, nulla è nascosto o invisibile per principio), è importante comprendere che essi possono molto facilmente includere pregiudizi e portare a discriminazioni difficili da individuare osservando direttamente il contenuto del programma.
Infatti, l’idea generale alla base dell’apprendimento automatico è quella di tentare di aggirare i limiti della nostra capacità di scrivere esplicitamente programmi per compiti complessi. Ad esempio, possiamo facilmente scrivere un programma per distinguere tra immagini monocromatiche in bianco e nero… bastano pochi semplici calcoli sui numeri che codificano il colore dei pixel in tali immagini… ma quali calcoli possiamo fare su questi stessi numeri per ottenere un programma in grado di distinguere tra più immagini di oggetti di uso quotidiano? A questo punto, possiamo provare a fare un passo in più scrivendo un programma con dei “buchi”, o meglio dei “parametri liberi”, cioè una bozza di programma in grado di eseguire molte operazioni logico-matematiche diverse (moltiplicazioni per coefficienti, addizioni, altre operazioni più complesse) e di concatenarle in una moltitudine di modi. I dettagli delle operazioni saranno determinati impostando i parametri su un certo valore. L’idea dell’apprendimento automatico è quella di affermare che, con un po’ di fortuna (e soprattutto molta abilità e astuzia da parte degli sviluppatori), esiste un insieme di parametri che produrrà un programma efficiente per il compito che fino ad ora si è rivelato ostico (ad esempio, classificare immagini di oggetti di uso quotidiano). Quindi, cercheremo di trovare automaticamente questo famoso insieme di parametri (o almeno un insieme soddisfacente di parametri), con un altro programma che testerà un gran numero di possibilità di impostazione dei parametri confrontandone le prestazioni nel completamento del compito previsto. Un modo molto efficace per guidare questo programma di impostazione automatica dei parametri è fornirgli numerosi esempi del compito in questione (cioè numerosi esempi di immagini già classificate in base a ciò che raffigurano). Se tutto va bene, il risultato è un programma correttamente parametrizzato che riproduce gli esempi (si dice che abbiamo appreso un modello o addestrato un algoritmo… ma si tratta comunque di parametrizzazione automatica).

C. Gli algoritmi incorporano gli obiettivi e le tendenze (volontarie e involontarie) degli esseri umani

Con questa comprensione di base dell’apprendimento automatico, è più facile capire come un processo di apprendimento “riuscito” possa comunque portare a un programma altamente problematico. Se fin dall’inizio guidiamo una parametrizzazione automatica con dati distorti (che riflettono, ad esempio, discriminazioni sessiste o razziali), un apprendimento riuscito porterà a un programma che riproduce tali distorsioni o discriminazioni. [3] Allo stesso modo, se “addestriamo” un programma su basi di esempi non rappresentativi (ad esempio, perché gruppi o minoranze non sono rappresentati nei dati), è molto probabile che il programma non funzioni altrettanto bene per tutte le persone che lo useranno o ne saranno soggette.

In generale, è molto importante sfatare l’illusione che la tecnologia digitale sia un mero strumento neutro che gli esseri umani creano, mettono da parte e mobilitano solo quando necessario. Piuttosto, la tecnologia digitale, come qualsiasi tecnologia, è meglio concepita come una rete di attori umani interconnessi (informatici, designer, programmatori, ingegneri, utenti, ecc.) e componenti non umani (server, miniere di terre rare e litio, risorse idriche mobilitate per il raffreddamento dei data center, ecc.). Di conseguenza, il comportamento e i risultati dei sistemi di IA (e, più in generale, delle tecnologie digitali)

deriveranno sempre da (e rifletteranno) ciò con cui gli esseri umani li hanno creati, volontariamente o involontariamente (programmazione, esempi nei set di dati di addestramento, impatti socio-ecologici, ecc.).

In particolare, l’IA rifletterà, propagherà e possibilmente rafforzerà le asimmetrie di potere nella società. Poiché l’IA è una tecnologia centralizzante (che centralizza dati, potenza di calcolo e talento umano), essa priva di potere coloro che sono esclusi dal centro. In questo modo, l’IA è antidemocratica. Ma le società democratiche possono controllare le influenze antidemocratiche se sono abbastanza intelligenti da individuarle e determinare come tenerle al «guinzaglio» democratico. Coloro che hanno il controllo sull’IA (che siano imprenditori, funzionari governativi, ingegneri e così via) devono essere sensibili nei confronti di coloro che sono soggetti al loro potere..

Ciò significa che delegare alcuni compiti di governance agli algoritmi (di apprendimento automatico) e ai sistemi di IA può rivelarsi vantaggioso solo se condotto con estrema cautela. Il punto di vista di Antoinette Rouvroy (filosofa e avvocata belga) è particolarmente illuminante a questo proposito: [4]

L’apprendimento automatico e, più in generale, la capacità delle macchine di renderci consapevoli delle regolarità del mondo che possono essere rilevate solo su larga scala, hanno lo scopo di aumentare la nostra intelligenza individuale e collettiva dandoci accesso a una “realtà stereo” che è sia analogica che digitale, e che può migliorare il modo in cui ci autogoverniamo e coordiniamo il nostro comportamento in modo sostenibile (a condizione, tuttavia, che riconosciamo che gli algoritmi sono, proprio come i decisori umani, sempre “di parte” a modo loro, anche se questi “pregiudizi” non sono facili da individuare perché sembrano essere “riassorbiti” negli strati nascosti delle reti neurali).

Nella sua critica alla “governamentalità algoritmica”, Antoinette Rouvroy mette in guardia dal rischio di una delega troppo ampia e indiscriminata del processo decisionale alle macchine, che porterebbe a sostituire i nostri modi umani e viventi di enunciare, verificare e giustificare le nostre convinzioni con “un regime di ottimizzazione e prevenzione”: [5]

Le categorie o le forme (ideologicamente contestabili, soggettivamente di parte, sempre un po’ “inadeguate”, ecc.) attraverso cui siamo socialmente, culturalmente, politicamente o ideologicamente predisposti a percepire e valutare gli eventi del mondo e dei suoi abitanti sono così sostituite dal rilevamento di segnali in “tempo reale” e da una valutazione anticipatoria non di ciò che le persone o gli eventi “sono”, ma, in termini di “credito”, delle opportunità, propensioni, rischi, ecc. che le loro forme di vita “portano con sé”. Lo scopo della modellizzazione algoritmica non è più quello di produrre “conoscenza”, ma di fornire informazioni operative che non siano né vere né false, ma sufficientemente affidabili da giustificare strategie d’azione preventive.

Inoltre, come già accennato, gli algoritmi non devono essere intesi come elaboratori neutri di fatti. I fatti stessi non sono mai neutri. Gli esseri umani sono sempre investiti della responsabilità di stabilire i fatti, interpretare e dare un senso alla realtà. Si tratta ovviamente di un’impresa fallibile che può essere pervertita. Ma gli algoritmi fanno meno (e non di più) di questo:[6]

Per gli algoritmi, gli unici “fatti” sono i dati, resi amnesici delle condizioni in cui sono stati prodotti. Eppure i fatti, o i dati, non sono mai altro che il riflesso o gli effetti dei rapporti di potere, del dominio, delle pratiche discriminatorie o della stigmatizzazione di cui è intrisa la realtà sociale.

[1] A dimostrazione lampante di questo problema delle disuguaglianze nell’accesso ai servizi digitali di base, un recente sondaggio belga ha evidenziato che, nel 2023, «il 40% dei belgi si trova ancora in una situazione di vulnerabilità digitale, a causa di scarse competenze digitali o del mancato utilizzo di Internet. L’accelerazione della digitalizzazione della nostra società non sta quindi portando a un aumento proporzionale delle competenze digitali» (https://kbs-frb.be/fr/quatre-belges-sur-dix-toujours-risque-dexclusion-numerique).

[2] Messaggio di Sua Santità Papa Francesco per la 57^a Giornata Mondiale della Pace, 1^° gennaio 2024 https://www.vatican.va/content/francesco/en/messages/peace/documents/20231208-messaggio-57giornatamondiale-pace2024.html

[3] Un esempio tra tanti (in questo caso con l’IA generativa): https://restofworld.org/2023/ai-image-stereotypes/

[4] Intervista ad Antoinette Rouvroy sul tema della «governamentalità algoritmica» (2 dicembre 2019, a cura di Catherine De Poortere) (nostra traduzione): https://www.pointculture.be/articles/focus/gouvernementalite-algorithmique-3-questions-antoinette-rouvroy-et-hugues-bersini/.

[5] Ibid. (la nostra traduzione).

[6] Ibid. (la nostra traduzione).