La complessità della democrazia #3 (it)

Essere umani nell’era delle neuroscienze e dell’intelligenza artificiale significa esplorare con attenzione quei punti di intersezione della complessità in cui idee valide si trovano tuttavia in tensione tra loro, mettendo in luce sfumature e sfide che non devono essere trascurate. Ogni pagina illustra le tensioni esistenti tra le idee e all’interno di ciascun tema, emerse durante le discussioni collettive, e integrate poi dalle riflessioni dei ricercatori della rete NHNAI.

I partecipanti alle discussioni riconoscono l’interesse derivante dall’uso delle tecnologie di IA in molti aspetti della nostra vita, in particolare per migliorare la convivenza nelle nostre società democratiche. Oltre al possibile supporto che l’IA può fornire al processo decisionale politico collettivo o all’intelligenza collettiva (argomento trattato in specifici nexus della complessità[1]), alcuni partecipanti sottolineano il fatto che l’IA potrebbe contribuire a migliorare la sicurezza, ad esempio grazie a capacità di videosorveglianza potenziate. Altri sottolineano i benefici dell’IA in termini di sicurezza, con una maggiore capacità di prevedere e gestire crisi quali epidemie o disastri naturali.

Allo stesso tempo, le discussioni manifestano chiaramente preoccupazioni riguardo ai diritti fondamentali e alla tutela della privacy, in particolare della privacy mentale (già con gli algoritmi di profilazione, e ancor più quando si aggiunge la neuroscienza al quadro). I partecipanti temono in particolare che enti pubblici e privati abbiano un accesso massiccio a ogni tipo di dato personale (riguardante salute, opinioni, scelte, abitudini e costumi…), mettendo così a dura prova la privacy.

L’indebolimento della privacy e l’offuscamento dei confini tra sfera pubblica e privata potrebbero ostacolare in modo significativo la libertà di pensiero e di espressione, nonché la vita democratica e sociale. Inoltre, i partecipanti insistono sul fatto che i miglioramenti in materia di sicurezza non dovrebbero essere ottenuti a scapito dei più vulnerabili, che potrebbero incontrare maggiori difficoltà nell’affermare i propri diritti. In generale, le persone non dovrebbero mai essere ridotte ai propri dati.

[1] Si vedano i seguenti nessi di complessità: AI and digital technologies for public services and democratic life and AI at the service of human collective intelligence.

Sulla base delle riflessioni di Federico Giorgi (ricercatore post-dottorato in filosofia, Université de Namur, ESPHIN, Belgio), Brian P. Green (professore di Etica dell’Intelligenza Artificiale e direttore del dipartimento di Etica della tecnologia presso il Markkula Center for Applied Ethics, Santa Clara University, USA), Nathanaël Laurent (professore associato di filosofia della biologia, Université de Namur, ESPHIN, Belgio) e Yves Poullet (professore di Diritto delle nuove tecnologie dell’informazione e della comunicazione, Université de Namur, ESPHIN – CRIDS, Belgio)

A. La privacy, un pilastro della democrazia

La tutela della privacy è una componente fondamentale della vita collettiva, specialmente nelle società democratiche. Il diritto di mantenere alcune cose segrete, di tenerle al di fuori della sfera pubblica, è di fondamentale importanza. Come ricorda il filosofo belga Corentin de Salle, la privacy è estremamente importante per diversi motivi fondamentali:[1]

In primo luogo, per preservare la dignità delle persone. Per una questione di decenza, si potrebbe dire. In secondo luogo, perché rivelare cose che dovrebbero rimanere segrete rende le persone vulnerabili. Può minarne l’autorità se hanno delle responsabilità. Rende più difficile per loro assumere il ruolo sociale che devono svolgere nella loro vita professionale. Può anche portare alla rivelazione delle loro debolezze, consentendo a persone senza scrupoli di sfruttarle per manipolarle, frodarle, rubarne l’identità o arrecare loro danno. Infine, proteggere la privacy è importante perché tutti hanno bisogno di un rifugio, un luogo dove poter ricaricare le batterie senza preoccuparsi di ciò che dicono, fanno o pensano. (…)

Inoltre, la privacy «non è una libertà fondamentale al pari di altre libertà, ma una condizione delle altre libertà. In particolare, la libertà di espressione e la libertà di movimento. [Come dice Yves Poullet, se so] di essere costantemente spiato, non oserò più esprimermi come desidero, nemmeno in contesti più intimi e privati. Se mi sento controllato in ogni momento, come posso muovermi come desidero?»[2] Con le neurotecnologie emergenti che forniscono nuovi poteri di analisi e manipolazione del funzionamento del cervello, le questioni relative alla privacy potrebbero diventare ancora più acute, con la possibilità di minare la nostra integrità mentale e identità psicologica. Potrebbe essere il momento di riconoscere i «neuro-diritti», come hanno già fatto alcuni paesi.

Un altro modo di considerare il fondamento del diritto alla privacy è la questione del differenziale di potere tra l’individuo e lo Stato. Poiché la conoscenza è potere, e lo Stato possiede una conoscenza e un potere di gran lunga superiori a quelli dell’individuo, lo Stato deve essere reso più trasparente nei confronti dell’individuo (libertà di informazione sul governo, segretezza governativa di portata limitata), e l’individuo più opaco nei confronti dello Stato (diritto alla privacy). La tecnologia digitale e i sistemi di IA in qualche modo ampliano questo problema di asimmetria di potere, poiché l’IA è un potere che può essere controllato dagli Stati, ma anche da altre organizzazioni, e queste organizzazioni dovrebbero a loro volta essere rese più trasparenti al pubblico e il pubblico dovrebbe essere protetto da queste organizzazioni attraverso i diritti alla privacy.

Il desiderio di sicurezza pubblica attraverso la sorveglianza è, ovviamente, in tensione con il diritto alla privacy sopra menzionato. L’equilibrio tra sicurezza e privacy è estremamente contestuale e quindi varierà da luogo a luogo, ma in generale, la trasparenza del lato governativo (o dell’organizzazione potente) dell’equazione può essere migliorata in modo simile al fine di proteggere comunque gli individui anche se sono sottoposti a una maggiore sorveglianza. È anche importante menzionare che la privacy non dovrebbe mai essere considerata da un approccio puramente individualistico. Ad esempio, con la tecnologia di profilazione e di raccomandazione: dobbiamo considerare il fatto che i nostri profili sono dedotti non solo dai nostri dati, ma dai big data, dove i nostri dati sono mescolati con quelli di altre persone. Ciò significa che la nostra decisione individuale di consentire la raccolta e il trattamento dei nostri dati da parte di applicazioni di IA coinvolge in qualche modo anche altre persone. I nostri dati potrebbero essere utilizzati per profilare altre persone che hanno rifiutato la raccolta e il trattamento dei propri dati. Infatti, dietro lo sfruttamento dei dati (personali) delle persone si cela una questione globale sul tipo di modello sociale ed economico in cui vogliamo vivere, una questione che va oltre la sola questione della sorveglianza dei cittadini da parte degli Stati.

B. Capitalismo della sorveglianza

A questo proposito potremmo citare il libro di Zuboff The Age of Surveillance Capitalism (2018). Zuboff, professoressa emerita alla Harvard Business School nota per le sue ricerche sulla tecnologia sul posto di lavoro, si è prefissata un compito ambizioso: creare una terminologia in grado di cogliere l’entusiasmo che circonda le moderne aziende tecnologiche. Sostiene che il capitalismo della sorveglianza guadagna raccogliendo, elaborando e analizzando i dati sul comportamento delle persone utilizzando metodi che incoraggiano una “indifferenza radicale”, un modo di osservare senza testimoni. Ciò lo distingue dal capitalismo industriale, che trae profitto dallo sfruttamento delle risorse naturali e della manodopera. Le aziende di sorveglianza hanno trovato una miniera di informazioni nei dati che raccolgono per uso proprio e si sono rese conto di poter vendere questi “scarti di dati” agli inserzionisti. Per loro, le persone dietro i dati sono solo accessori.

Zuboff vede le strutture economiche che ne derivano come completamente nuove: una forma di capitalismo canaglia. Mentre le aziende precedenti facevano affidamento sull’“accumulazione primitiva”, le aziende di sorveglianza come Facebook e Google dipendono da una continua “espropriazione digitale”, un concetto che lei ha preso in prestito da David Harvey. Ognuno di noi viene costantemente reso comprensibile e redditizio per queste aziende. Più che la semplice sorveglianza governativa volta a limitare il libero arbitrio, Zuboff teme che queste aziende utilizzino il libero arbitrio umano per raggiungere i propri obiettivi, basandosi sui risultati prevedibili che forniamo.

Per Zuboff, ciò crea una situazione preoccupante rispetto all’idea centrale del liberalismo moderno: l’individuo. Considera il capitalismo di sorveglianza come un’estensione della ricerca psicologica di B.F. Skinner, in cui le persone sono viste come nient’altro che i loro comportamenti e riflessi. Skinner voleva migliorare l’unità sociale e l’efficienza sul posto di lavoro, indipendentemente dalle scelte individuali. Zuboff evidenzia esempi che mostrano come il capitalismo della sorveglianza sia collegato a questo tipo di comportamentismo, come lo sviluppo della biometria e la ricerca di Rosalind Picard sull’informatica affettiva per utenti autistici, che è stata successivamente ripresa da startup specializzate nella sorveglianza. Tutto ciò dimostra che il capitalismo della sorveglianza sta gradualmente minando il nostro diritto fondamentale alla libertà personale.

[1] De Salle C., Tellier S., De Cooman J., Petit N., Duquenne E., Lombardo A., Hublet L. & Leduc P. (2018) La vie privée à l’ère des big data, Les Études du Centre Jean Gol, p. 9. https://www.cjg.be/les-etudes-du-cjg-la-vie-privee-a-lere-des-big-data/

[2] Ibid.