La complessità della democrazia #2 (it)

Essere umani nell’era delle neuroscienze e dell’intelligenza artificiale significa esplorare con attenzione quei punti di intersezione della complessità in cui idee valide si trovano tuttavia in tensione tra loro, mettendo in luce sfumature e sfide che non devono essere trascurate. Ogni pagina mette in luce le tensioni esistenti tra le idee e all’interno di ciascun tema, emerse durante le discussioni collettive, e integrate poi dalle riflessioni dei ricercatori della rete NHNAI.

Molti partecipanti sottolineano che la politica e il processo decisionale devono continuare a fondarsi sull’interazione umana, sulla riflessione collettiva e sulla deliberazione. Esiste un ampio consenso contro il governo delle macchine (tecnocrazia), nonché sul fatto che l’intelligenza artificiale non debba sostituire gli esseri umani nel processo decisionale, in particolare nel campo cruciale delle decisioni politiche collettive. Al contrario, le relazioni umane e l’empatia sono fondamentali per il processo decisionale collettivo e dovrebbero essere preservate e rafforzate.
A questo proposito, gli strumenti digitali hanno già offerto enormi possibilità di scambio di informazioni e di dibattiti collettivi su scale geografiche e a ritmi temporali senza precedenti. Con Internet e i social network, la condivisione delle informazioni è diventata estremamente liberalizzata.
Tuttavia, questa liberalizzazione del nostro panorama informativo collettivo ha anche innescato il problema dell’eccesso di informazioni disponibili e la necessità di curarle in modo più efficiente. A questo proposito, le discussioni riflettono serie preoccupazioni riguardo agli algoritmi di raccomandazione che possono rafforzare i pregiudizi e l’isolamento di determinati gruppi creando camere di risonanza e bolle informative. Questi processi possono persino essere sfruttati per una manipolazione intenzionale. In ogni caso, ciò porta a un indebolimento del nostro rapporto collettivo con la veridicità nei dibattiti politici e sociali, diminuendo così, anziché potenziare, le nostre capacità di intelligenza collettiva e la nostra capacità di essere persone autentiche nella nostra vita di cittadini con autonomia.
Alcuni partecipanti sottolineano a questo proposito il problema delle campagne mediatiche e la tendenza a cadere nel sensazionalismo (comprese le campagne e il sensazionalismo sull’IA stessa), che rafforza il problema della gestione delle informazioni mentre un giornalismo più responsabile è più necessario che mai.
In generale, i partecipanti insistono sulla necessità di promuovere il pensiero critico per orientarci meglio nel panorama informativo e per sostenere la nostra intelligenza collettiva e le nostre capacità politiche e decisionali. L’IA potrebbe essere di grande aiuto a questo proposito, ad esempio contribuendo a migliorare la qualità dell’informazione o sostenendo la lotta contro le notizie false (deep fake) e la loro diffusione (moderazione dei social network).

Sulla base delle riflessioni di Brian P. Green (professore di Etica dell’Intelligenza Artificiale, Direttore di Etica delle Tecnologie presso il Markkula Center for Applied Ethics (Università di Santa Clara, USA), Mathieu Guillermin (professore associato di Etica delle Nuove Tecnologie (UCLy (Università Cattolica di Lione), UR CONFLUENCE : Sciences et Humanités (EA 1598), Lione, Francia), Nathanaël Laurent (professore associato di filosofia della biologia (Université de Namur, ESPHIN, Belgio) e Yves Poullet (professore di Diritto delle nuove tecnologie dell’informazione e della comunicazione (Université de Namur, ESPHIN – CRIDS, Belgio)

La salute delle nostre società democratiche dipende in parte dalla qualità del panorama informativo e dall’intelligenza collettiva dei cittadini. Questi due aspetti sono profondamente influenzati dalle tecnologie digitali e dall’intelligenza artificiale.

A. Intelligenza artificiale, panorama informativo e intelligenza collettiva

Data l’enorme quantità di contenuti disponibili su Internet (anche limitandosi alle piattaforme digitali), una “editorializzazione” (almeno) parzialmente automatizzata delle informazioni è inevitabile. Gli strumenti di intelligenza artificiale per la profilazione degli utenti e la raccomandazione di contenuti sono quindi elementi tecnologici fondamentali. Tuttavia, è necessario interrogarsi sui criteri e sulle finalità di queste operazioni di profilazione e raccomandazione. Come spiega Gerald Bronner,[1] la liberalizzazione dei nostri panorami informativi, associata a un modello economico basato sulla gratuità, porta a una feroce concorrenza per catturare il più possibile l’attenzione degli utenti. Gli algoritmi di raccomandazione sono progettati per promuovere contenuti che indurranno gli utenti a rimanere connessi (garantendo così la massima esposizione alla pubblicità personalizzata e la raccolta di dati più efficiente). Ciò è molto diverso dai sistemi di raccomandazione che promuoverebbero contenuti favorevoli alla prosperità (che spesso possono risultare meno attraenti a prima vista).

I sistemi di profilazione e raccomandazione possono in particolare portare a effetti deleteri (involontari o intenzionali) in ambito politico. Le camere di risonanza possono portare a una forte polarizzazione dell’opinione pubblica. I contenuti digitali possono essere personalizzati per sfruttare i sistemi di raccomandazione e le camere di risonanza. Ciò vale in particolare per le deep fake news prodotte sempre più facilmente con strumenti di IA generativa. Inoltre, la concentrazione dei ricavi e del potere economico nelle mani delle grandi piattaforme potrebbe portare a una concentrazione del potere politico, soprattutto in termini di influenza sull’opinione pubblica. Ciò può indebolire profondamente le fondamenta e le condizioni di base delle società democratiche, minacciando ad esempio l’organizzazione di elezioni libere e trasparenti. Le camere di risonanza e le notizie (deep) fake possono persino essere impiegate come armi di destabilizzazione politica nei conflitti geostrategici. I sistemi di raccomandazione e di profilazione potrebbero anche essere utilizzati dai regimi autoritari per rafforzare il loro controllo sulle popolazioni. Allo stesso tempo, la tecnologia dell’IA può aiutare a combattere queste minacce. Potremmo parlare di una sorta di guerra dell’IA,[2] sistemi difensivi che combattono quelli offensivi con il panorama informativo come campo di battaglia. I sistemi di IA possono essere addestrati a rilevare immagini o video deep fake. Potrebbe essere possibile sviluppare sistemi di raccomandazione e di editorializzazione che limitino la viralità delle fake news.

A livello globale, possiamo aspettarci che l’IA ci aiuti a migliorare il nostro panorama informativo e la nostra intelligenza collettiva (raccomandazioni di contenuti più fiorenti e costruttivi, lotta contro le fake news, …), ma ciò dipenderà in gran parte dalla nostra capacità di incoraggiare lo sviluppo della tecnologia giusta e l’adozione degli usi più positivi per promuovere l’alfabetizzazione digitale ed etica. Ciò significa in particolare promuovere l’alfabetizzazione digitale ed etica per consentire agli attori interessati (dagli sviluppatori agli utenti) di stabilire condizioni adeguate. Potremmo ad esempio menzionare la necessaria riflessione sul modello economico alla base delle tecnologie digitali e le questioni sollevate dal miraggio della gratuità).

Più fondamentalmente, potremmo anche riflettere proficuamente sul significato di espressioni come “tecnologia giusta” e “usi positivi”. Utilizzare l’IA per sostenere l’intelligenza umana o la sua prosperità e non soffocarle è un’altra versione della questione dell’“equilibrio” che attraversa diversi temi di discussione. Se vogliamo che l’IA sostenga gli esseri umani adulti nell’essere “adulti” e ci opponiamo all’uso dell’IA per trasformarci in “bambini” dipendenti con l’IA come nostro “genitore”, c’è molto altro da dire qui su quali tipi di sostegno siano buoni e quali cattivi. Una parte della questione riguarda l’affinamento della nostra comprensione di cosa sia questa intelligenza collettiva o umana che ci aspettiamo che l’IA migliori.

B. Che cosa significa promuovere l’intelligenza collettiva umana?

Può rivelarsi proficuo mettere in discussione i nostri preconcetti su cosa significhi essere razionali o intelligenti, su come possiamo o dovremmo procedere per sviluppare idee che meritino di essere definite conoscenza, che meritino di essere considerate vere. È certamente allettante pensare che acquisiamo maggiore razionalità o intelligenza eliminando dai nostri processi inferenziali giudizi soggettivi, scelte, compromessi, questioni di valore, ecc. … Questa visione incoraggia certamente l’idea che gli algoritmi e le macchine di apprendimento abbiano un vantaggio, poiché si basano in ultima analisi esclusivamente su calcoli logico-matematici sui dati. Dotati di una neutralità superiore, gli algoritmi potrebbero quindi aiutare gli esseri umani a liberarsi dall’inquinamento della loro soggettività per migliorare la loro razionalità. Questa visione può anche portare ad attribuire grande credito alla governamentalità algoritmica che abbiamo evocato in un altro nesso di complessità. [3]

Tuttavia, la storia e la filosofia della scienza recenti (almeno dalla seconda metà del XX ^secolo) ci hanno mostrato i limiti di una concezione così puramente algoritmica o procedurale della razionalità e dell’intelligenza. Qualsiasi approccio scientifico, anche il più sperimentale, si basa inevitabilmente su giudizi e arbitrati umani (riguardanti il vocabolario di base da utilizzare, i principali orientamenti metodologici, gli obiettivi da raggiungere… ma anche riguardo a intuizioni fondamentali come l’idea che l’osservazione empirica non ci inganni sistematicamente).[4] I programmi per computer non fanno eccezione a questa indispensabilità del giudizio umano. Anche nel caso dell’apprendimento automatico, gli esseri umani devono ad esempio decidere in merito alla qualità del corpus di esempi, al tipo di programma con parametri liberi che cercheremo di ottimizzare automaticamente, o alla procedura di parametrizzazione automatica stessa. [5] Questo tipo di giudizi o decisioni non vengono presi “arbitrariamente” (nel senso che ognuno potrebbe fare come gli pare per conto proprio). Sono richieste grande competenza ed esperienza, e non si tratterà mai solo di applicare criteri o procedure in modo puramente neutrale o oggettivo.

Essere intelligenti o razionali significa, naturalmente, essere in grado di applicare correttamente (in modo oggettivo o neutrale) criteri, procedure o algoritmi, ma significa anche, e forse soprattutto, essere in grado di giudicare la qualità dei criteri e delle procedure, avere un atteggiamento riflessivo e critico nei confronti di ciò che stiamo facendo… e quindi essere in grado di giudicare e arbitrare in modo fallibile, di commettere errori a volte, di correggersi, di evolversi (e di aiutarsi a vicenda in questo senso, di collaborare con buona volontà)… Essere intelligenti in questo senso è qualcosa di fondamentalmente vivo, qualcosa che ciascuno di noi può intraprendere solo radicandosi nella propria esperienza vissuta (con tutta la ricchezza ma anche i limiti che ciò comporta)[6] e in sana collaborazione con gli altri.

Questa dimensione collettiva e relazionale dell’intelligenza umana è di fondamentale importanza e ci riporta al tema della democrazia come basata su un solido spazio intersoggettivo di deliberazione. Divento più intelligente quando interagisco con altre persone, ad esempio perché usano categorizzazioni diverse (o usano le mie in modo diverso). La democrazia e la deliberazione collettiva sono più di una semplice concatenazione cieca di opinioni individuali, con predominanza concessa a quelle accettate dalla maggioranza. È innanzitutto un modo di vivere e prosperare insieme. Non ci si può aspettare che i sistemi di IA, per quanto “intelligenti” possano essere, sostituiscano o automatizzino questa forma di profonda intelligenza umana collettiva. Ciò non sarebbe in alcun modo un sostegno per gli esseri umani, ma piuttosto una sorta di annientamento della loro vita e intelligenza. La domanda chiave che dovremmo quindi porci è: in che modo la macchina può aiutarci a essere più intelligenti? In quanto attori sempre più pervasivi del nostro ambiente sociale (potremmo dire che formiamo sistemi tecno-sociali o ibridi), la tecnologia digitale (compresa l’IA) non solo ci informa, ma ci trasforma. Dobbiamo riflettere su questa trasformazione e su dove vorremmo che ci conducesse. In che modo la tecnologia digitale può contribuire ad approfondire le nostre esperienze di vita che ci rendono più saggi e più esperti? Quali tipi di sistemi di IA e di servizi digitali promuoveranno genuinamente la nostra intelligenza collettiva e umana?

[1] Gérald Bronner (2012), Apocalypse cognitive, Presses Universitaires de France

[2] https://www.latribune.fr/opinions/tribunes/lutte-contre-la-desinformation-la-guerre-des-intelligences-artificielles-997066.html

[3] Vedi: AI and digital technologies for public services and democratic life.

[4] Philip Kitcher, Science, Truth and Democracy, New York, NY: Oxford University Press, 2001, ISBN : 0-19-514583-6. Mathieu Guillermin, «Non-neutralité sans relativisme ? Le rôle crucial de la rationalité évaluative». Dans : Laurence Brière, Mélissa Lieutenant-Gosselin, Florence Piron (dir.), Et si la recherche scientifique ne pouvait pas être neutre ? Éditions Science et bien commun, 2019, 315-338.  https://scienceetbiencommun.pressbooks.pub/neutralite/chapter/guillermin/

[5] Per ulteriori dettagli, consultare il contributo specialistico contenuto nel volume dedicato alla complessità intitolato: AI and digital technologies for public services and democratic life, especially section B. Are algorithms more neutral than humans?

[6] Vedi ad esempio: François Laplantine, The Life of the Senses: Introduction to a Modal Anthropology, Routledge (Sensory Studies), 2020, 176 p., ISBN 9781472531964