Essere umani nell’era delle neuroscienze e dell’intelligenza artificiale significa esplorare con attenzione quei punti di intersezione della complessità in cui idee valide si trovano tuttavia in tensione tra loro, mettendo in luce sfumature e sfide che non devono essere trascurate. Ogni pagina esprime le tensioni esistenti tra le idee e all’interno di ciascun tema, emerse durante le discussioni collettive, e integrate poi dalle riflessioni dei ricercatori della rete NHNAI.
La complessità della democrazia #6: La sfida democratica della regolamentazione
Emerge un chiaro consenso sul fatto che le nuove tecnologie potenti, come quelle citate, richiedano una governance e una regolamentazione. È fondamentale promuovere un uso ragionato delle tecnologie di intelligenza artificiale (tra cui videosorveglianza, algoritmi, big data, social media), sempre sotto il controllo umano. Dobbiamo implementare strumenti normativi aggiornati e diritti giuridici per i cittadini (il che rappresenta una questione multidisciplinare); sviluppare e applicare codici etici per i gruppi professionali (ad esempio, gli sviluppatori web); prestare particolare attenzione ai gruppi vulnerabili (prevenendo, ad esempio, l’automazione della discriminazione).
Tuttavia, parte degli scambi evidenzia anche che la regolamentazione solleva molte questioni delicate, rendendola una sfida molto difficile. Si può ad esempio citare il tema della moderazione dei social media: chi è l’attore giusto? Le tecnologie di IA possono contribuire, ma qual è il ruolo degli esseri umani? Un argomento del genere rivela questioni molto fondamentali sulla verità, la democrazia e la legittimità. Più in generale, la regolamentazione dell’IA è impegnativa per diversi motivi: il ritmo dello sviluppo tecnologico, l’offuscamento dei modelli di responsabilità (con le tecnologie digitali in generale e più specificamente con l’apprendimento automatico), l’accesso spesso “facile” a strumenti potenti (nelle mani di attori malintenzionati, tecnologie come il riconoscimento di immagini o facciale possono diventare estremamente dannose), la portata globale della ricerca e dello sviluppo (con la diversità dei sistemi di valori in tutto il mondo e le costellazioni di conflitti di interesse), … Si dovrebbe inoltre prendere in considerazione il modello economico o di business associato alle tecnologie digitali (modelli gratuiti basati sul coinvolgimento degli utenti e sulla raccolta di dati potrebbero rendere difficile l’allineamento con obiettivi di prosperità umana).
Per affrontare la sfida della regolamentazione dell’IA, molti partecipanti insistono sull’importanza dell’alfabetizzazione digitale e del pensiero critico che dovrebbero essere promossi. È molto importante sottolineare che alcuni partecipanti evidenziano l’urgente necessità di combattere il senso di impotenza che i cittadini potrebbero provare di fronte a tali sfide normative.
Approfondimenti dalla rete accademica NHNAI:
A. Dal punto di vista dell’avvocato
Alla luce della complessità della sfida rappresentata dalla regolamentazione dell’IA, è opportuno richiamare alcuni principi fondamentali del diritto, in particolare l’importanza dello Stato di diritto, quale principio fondamentale per garantire una democrazia vivace. Il principio dello Stato di diritto implica che, per limitare le nostre libertà o per prevenire il rischio di farlo, sia necessario ricorrere a misure legislative, espresse in modo chiaro ed esauriente, pubblicate, con un contenuto rigorosamente proporzionato al loro scopo e accettabile all’interno di una società democratica.
Per quanto riguarda il contenuto della regolamentazione dell’IA, occorre rafforzare la trasparenza sul funzionamento e sulle finalità perseguite dal titolare del trattamento dei dati, insieme al diritto di contestare l’uso dei propri dati (in particolare per proteggere l’autonomia delle persone). Allo stesso modo, dobbiamo affermare la responsabilità degli sviluppatori di IA. Questo principio di responsabilità porta a imporre loro una valutazione multidisciplinare e multistakeholder delle applicazioni che stanno sviluppando e dei rischi ad esse collegati.
Inoltre, spetta agli Stati istituire un forum in cui la società possa discutere apertamente gli aspetti etici di alcune grandi innovazioni pubbliche.
B. Avviare un dibattito sociale sulle questioni etiche
Sulla base delle riflessioni di Brian P. Green (professore di Etica dell’Intelligenza Artificiale e direttore del dipartimento di Etica della tecnologia presso il Markkula Center for Applied Ethics (Università di Santa Clara, USA)) e di Mathieu Guillermin (professore associato di Etica delle nuove tecnologie presso l’UCLy (Università Cattolica di Lione), UR CONFLUENCE: Sciences et Humanités (EA 1598), Lione, Francia)
Ciò ci porta a chiederci dove debba intervenire la “protezione” delle persone dall’IA. Dobbiamo affidarci al fatto che gli individui siano sufficientemente informati da proteggersi da soli? Oppure che i politici siano sufficientemente informati da proteggere i cittadini? O ancora che le aziende ne sappiano abbastanza? O che siano gli ingegneri che realizzano il prodotto? Tutte le parti interessate devono avere voce in capitolo nei propri ambiti di competenza. Nessun gruppo può essere responsabile di tutto, perché il problema dell’alfabetizzazione e del controllo dell’IA è troppo complesso e richiede molti punti di intervento per indirizzarlo verso il bene.
Alcune cose dovrebbero essere automatizzate e altre no; come facciamo a sapere quali sono le une e quali le altre, e qual è la nostra logica per fare questa distinzione? Abbiamo bisogno di un “perché” per determinare cosa è legittimamente automatizzabile e cosa no. Esplorare collettivamente questa domanda sul “perché”, la questione delle nostre esigenze, potrebbe rivelarsi estremamente complicato. Man mano che la nostra civiltà accelera, sembrerebbe non esserci modo di opporsi alla forza della delega attraverso l’automazione dell’IA, perché gli esseri umani semplicemente non possono essere abbastanza veloci. Lo vediamo già nei settori del trading ad alta frequenza e della cyber-offesa e -difesa. Quando ci chiediamo: cosa può essere delegato e cosa no? Non si tratta solo di una questione di ciò che è tecnicamente fattibile. Significa anche chiedersi PERCHÉ?
Questa domanda sul “perché” ci spinge nel campo della riflessione valutativa, dei valori e degli interessi. Come menzionato da alcuni partecipanti alle discussioni, questa riflessione può rivelarsi difficile poiché valori e interessi possono essere altamente divergenti. Tuttavia, potrebbe essere interessante adottare un approccio sfumato. Sebbene possano chiaramente esserci forti disaccordi in materia morale ed etica, ciò non significa necessariamente che un terreno comune sia impossibile. Come prima approssimazione, sembrano esserci alcuni valori fondamentali su cui costruire. Alcuni autori suggeriscono 5 valori che potrebbero essere universali: sopravvivere, riprodursi, vivere in società, educare i giovani, cercare la verità.[1] Questi valori potrebbero essere definiti oggettivi in quanto sono ragionevoli per un’ampia varietà di persone perché esistono per logica, in questo caso per prova per assurdo / reductio ad absurdum.
Inoltre, l’esistenza di forti disaccordi non significa di per sé che vi siano forti divergenze tra i valori che le persone sostengono. Molto spesso, i valori sono condivisi ma possono entrare in tensione e quindi le persone non sono d’accordo sulla priorità da dare ad alcuni rispetto ad altri (sicurezza contro tutela della privacy, libertà individuale contro bene comune, ecc.). Ciò significa quindi che dovremmo sempre riflettere sui nostri disaccordi e su ciò che essi comportano (potrebbe esserci più accordo di quanto crediamo a prima vista, più spazio per divergenze costruttive).
Questo ci permette di sottolineare l’importanza di rafforzare le capacità di tutti gli attori di partecipare a queste discussioni sociali aperte. Come abbiamo appena visto, ciò richiede la promozione del pensiero critico. Richiede inoltre di coltivare l’alfabetizzazione tecnologica e digitale per garantire discussioni il più possibile informate.
