Essere umani nell’era delle neuroscienze e dell’intelligenza artificiale significa esplorare con attenzione quei punti di intersezione della complessità in cui idee valide si trovano tuttavia in tensione tra loro, mettendo in luce sfumature e sfide che non devono essere trascurate. Ogni pagina illustra le tensioni esistenti tra le idee e all’interno di ciascun tema, emerse durante le discussioni collettive, e integrate poi dalle riflessioni dei ricercatori della rete NHNAI.
Complessità trasversale n. 1: quali legami, quali interazioni con le macchine?
Alcuni partecipanti sottolineano che, con il progresso dell’intelligenza artificiale, tenderemo a sviluppare macchine (robot, automi conversazionali) in grado di imitare o simulare comportamenti e capacità propri degli esseri umani e degli esseri viventi, quali l’empatia, l’assertività, la vita emotiva e affettiva. Di conseguenza, diventerà sempre più forte la tentazione di affezionarsi emotivamente a questo tipo di macchine in grado di simulare capacità relazionali (come compagni o assistenti artificiali, oppure robot per l’assistenza personale).
Queste discussioni sollevano anche la questione dei diritti da attribuire ai robot avanzati o ai sistemi intelligenti.
Allo stesso tempo, molti contributi alle discussioni sottolineano l’importanza di non perdere di vista la specificità del vivente e dell’umano rispetto alle macchine. Le macchine non sono coscienti, non provano emozioni, non possono essere sagge, creative, critiche o autonome, non sono capaci di spiritualità nel senso usuale di questi termini, che implica un radicamento nell’esperienza vissuta, in un corpo biologico. Nella migliore delle ipotesi, possono simulare comportamenti convincenti in questi ambiti (in particolare attraverso la conversazione), comportamenti che gli esseri umani o gli esseri viventi avrebbero in determinate circostanze.
Da questo punto di vista, molti partecipanti concordano sul fatto che l’IA non possa essere un soggetto di diritto. La questione è ampiamente descritta come speculativa o fantascientifica, pur non essendo priva di interesse.
Pertanto, nelle discussioni si afferma abbastanza comunemente che è necessario resistere alla tentazione (sempre più reale e potente) di percepire certi robot o sistemi di IA come persone vere e di cercare di entrare in contatto con loro a livello affettivo (come si farebbe con un essere umano, o anche con un altro essere vivente). Dobbiamo resistere alla tentazione di sostituire le interazioni con le macchine alle relazioni umane autentiche.
Approfondimenti dalla rete accademica NHNAI:
Sulla base delle riflessioni di Brian P. Green (professore di Etica dell’Intelligenza Artificiale, Direttore di Etica delle Tecnologie presso il Markkula Center for Applied Ethics (Università di Santa Clara, USA), Mathieu Guillermin (professore associato di Etica delle Nuove Tecnologie (UCLy (Università Cattolica di Lione), UR CONFLUENCE : Sciences et Humanités (EA 1598), Lione, Francia) e Nathanaël Laurent (professore associato di filosofia della biologia (Université de Namur, ESPHIN, Belgio)
È più che legittimo rimanere stupiti dai recenti sviluppi delle tecnologie di IA, che hanno permesso a programmi come ChatGPT e ad altri modelli linguistici di grandi dimensioni di intrattenere conversazioni convincenti con gli esseri umani. Queste prestazioni potrebbero avere un impatto profondo sulle relazioni umane e sulle interazioni tra gli esseri umani e le macchine.
Come sottolineato in molti ambiti tematici del progetto NHNAI, le relazioni rivestono grande importanza nella vita umana e la loro tutela e valorizzazione dovrebbero essere una preoccupazione fondamentale per tutti coloro che lavorano con i sistemi di IA e i loro effetti. In generale, i sistemi di IA dovrebbero assistere e non sostituire gli esseri umani – ma soprattutto nelle relazioni. In quanto creature sociali, teologicamente siamo stati creati a immagine di un Dio Trino relazionale che è l’amore stesso, ma questo è anche un punto filosofico ed empirico, e logicamente necessario. L’umanità non può vivere da sola, e qualsiasi cosa che eroda le nostre relazioni è una cosa rischiosa e pericolosa. L’IA deve essere utilizzata per rafforzare le relazioni umane, siano esse familiari, di amicizia, economiche, politiche o di altro tipo. L’IA che danneggia le relazioni attacca una parte fondamentale di ciò che significa essere umani.
A. Con l’IA, non creiamo radicalmente un nuovo tipo di entità
Tuttavia, questo senso di meraviglia deve essere motivato dalle ragioni giuste. Dopo tutto, questi successi non hanno nulla a che vedere con la creazione di nuove forme di vita, nuovi esseri intelligenti, che chiameremmo IA. È altrettanto vertiginoso, se non di più, rendersi conto che l’umanità è stata in grado di costruire macchine, artefatti capaci di simulare o riprodurre comportamenti intelligenti (comportamenti convincenti che potrebbero provenire da esseri umani), senza alcuna vita, nessuna esperienza vissuta, nessuna coscienza, ma con puri meccanismi (meccanismi inerti, ma incredibilmente complessi e miniaturizzati).
Oltre a demistificare l’apprendimento automatico (compreso il deep learning, basato su reti neurali artificiali)[1], è anche fondamentale ricordare che tutti i programmi (da quelli più tradizionali e convenzionali al programma di IA più avanzato prodotto dall’apprendimento automatico) girano su computer o macchine simili che non sono (o sono meno) programmabili. Ciò che fa una macchina come un computer è trasformare configurazioni materiali a cui gli esseri umani hanno associato significati precisi (una serie di magneti su un disco rigido simboleggia una sequenza di 0 e 1, a sua volta associata, ad esempio, a una sequenza di parole o a una sequenza di numeri che codificano i colori dei pixel in un’immagine) in nuove configurazioni materiali associate ad altri significati (ad esempio, una nuova serie di parole, un’immagine modificata o una descrizione dell’immagine). Questo tipo di macchina, progettata per trasformare configurazioni materiali in altre in base a ciò che queste configurazioni significano, non è nuova. Il computer può essere visto come il culmine di una lunga storia evolutiva di tecniche e tecnologie dell’informazione, che risale probabilmente agli albori della scrittura. Da questa prospettiva, l’abaco può essere visto come un antenato del computer (trasformazione meccanica di configurazioni che simboleggiano, ad esempio, numeri da sommare, in configurazioni che simboleggiano il risultato della somma).
Quindi, in senso stretto, nei computer non ci sono significati, immagini, parole o numeri, per non parlare di emozioni o coscienza. Sono, tuttavia, macchine fantastiche per manipolare meccanicamente (con incredibile efficienza e precisione) innumerevoli configurazioni materiali a cui noi umani attribuiamo un significato. Una serie di magneti sul disco rigido di un computer farà sì che diversi pixel sullo schermo emettano colori diversi, che per noi saranno più che semplici minuscole fonti di luce colorata, ma diventeranno testi che ci raccontano di sentimenti, immagini di volti che provano tali o tali emozioni. Ma il computer elabora le informazioni solo manipolando meccanicamente e automaticamente i magneti (o altre configurazioni hardware). Questo rende ancora più sbalorditivo vedere cosa possiamo far fare ai computer con programmi derivati da tecniche di apprendimento automatico.
B. Ma l’IA, come qualsiasi tecnologia, plasma ciò che siamo e come viviamo
Riconoscere questi poteri dei computer non dovrebbe mai prescindere da una chiara comprensione del fatto che i computer e i sistemi di IA non sono entità che emergono a parte da noi. Come abbiamo appena visto, non hanno nulla a che vedere con l’IA fantascientifica che diventa cosciente e autonoma in senso forte. Tuttavia, c’è un altro senso cruciale in cui i sistemi di IA non sono separati da noi: non sono semplici strumenti che potremmo mobilitare solo quando ne abbiamo bisogno e che altrimenti rimarrebbero silenziosamente e neutramente sullo scaffale. La tecnologia ci trasforma profondamente. Modella e media i nostri modi di essere e di vivere insieme.
La visione sociologica di Bruno Latour può aiutarci a cogliere questo punto importante. Per lui, il “sociale” è una composizione associativa[2]. Una situazione è vista come un “collettivo ibrido” composto da interagenti umani e non umani. Né oggetti né soggetti, questi interagenti sono essi stessi concepiti come reti relazionali. Un’applicazione digitale, ad esempio, non può essere concepita senza i suoi progettisti, o il personale di manutenzione, o l’interfaccia utente, o naturalmente senza i suoi presunti utenti e gli usi previsti. Ma gli utenti potrebbero benissimo dirottare questo uso per adattarlo al proprio contesto esperienziale. Un’IA come ChatGPT è un composto formato da tutti gli autori umani che hanno generato i testi con cui è stato addestrato il modello, più tutti i progettisti del modello, più tutti gli agenti che filtrano le produzioni dell’IA, più tutti gli utenti e i contesti d’uso previsti e imprevedibili.
C. Le capacità di imitazione dei sistemi di IA rappresentano un profondo punto di svolta
I grandi modelli linguistici come ChatGPT ci parlano in modo convincente (con contenuti affettivi o emotivi credibili). Possiamo anche provare ad analizzare automaticamente le emozioni e i sentimenti in ciò che le persone dicono, o nei video che catturano le espressioni del corpo o del viso. Queste nuove tecnologie aprono la possibilità di interazioni sempre più ricche e interessanti con le macchine, con modalità che riproducono o simulano un numero crescente di caratteristiche delle interazioni e delle relazioni tra gli esseri viventi in generale, e tra gli esseri umani in particolare. Per considerare adeguatamente le conseguenze e le sfide di queste nuove possibilità di interazione con le macchine, è necessario sottolineare diversi punti.
a. L’estrema utilità dell’IA e i problemi di uniformizzazione
Prima di esaminare la posta in gioco dell’imitazione umana (e della vita) per se, è importante sottolineare che queste capacità di imitazione trasformano profondamente il modo in cui interagiamo con le macchine. Questa interazione può diventare estremamente fluida e facile, se paragonata alle competenze digitali normalmente richieste per utilizzare un computer. Ora, sempre più attività possono essere avviate e gestite tramite comando vocale in linguaggio naturale. Ciò significa anche che i sistemi digitali diventeranno senza dubbio ancora più onnipresenti di quanto non lo siano già.
In questa prospettiva, una prima questione che dobbiamo aggirare per massimizzare i risultati positivi delle tecnologie di IA non è il problema dell’aspetto umano di un oggetto, né dell’oggettivazione/dataficazione di un essere umano. Sulla base delle intuizioni di Latour (gli esseri umani e la loro tecnologia formano una rete intricata di interagenti, dalla quale gli esseri umani non possono essere isolati), ciò che è importante evitare è che i sistemi di IA portino a un’uniformazione delle vite umane e diventino un ostacolo alla loro creatività. Forme standardizzate di mediazione: i sistemi di IA e gli esseri umani che interagiscono con essi potrebbero sopraffare e minacciare la possibilità di apprendere e innovare in situazioni locali concrete. L’apprendimento locale derivante da interazioni non controllate con l’ambiente è cruciale tanto quanto i sistemi standardizzati di registrazione ed elaborazione dei dati. Questo è ciò che Amitav Ghosh ha formulato[3], ad esempio, riguardo al problema del cambiamento climatico:
Per chi osserva attentamente l’ambiente in cui vive, gli indizi di un cambiamento a lungo termine a volte provengono da fonti inaspettate. (…) Le persone che prestano maggiore attenzione al cambiamento ecologico si trovano il più delle volte ai margini; i rapporti che hanno con il suolo, la foresta o l’acqua sono appena mediati dalla tecnologia.
b. Non nascondere mai chi è chi (o cosa è cosa)[4]
Tornando alla questione dell’aspetto umano della macchina in sé, e contrariamente a quanto potrebbero suggerire gli approcci comportamentisti (in relazione al famoso test di Turing), sembra innanzitutto importante mantenere una distinzione tra simulare un comportamento risultante da un’esperienza vissuta e avere questo stesso comportamento mentre si vive tale esperienza. Cosa possiamo dire, ad esempio, di una macchina che esprime parole di compassione a una persona anziana di fronte alla prospettiva della fine della vita? Questo non può essere confuso con le stesse parole pronunciate da una persona capace di sperimentare la propria finitezza, di provare sentimenti e di entrare in empatia in un’esperienza vissuta condivisa. Se la tecnologia dell’IA è correttamente compresa, ciò che abbiamo con una macchina che emette parole di simpatia non deve essere descritto come una macchina che prova tali sentimenti. Piuttosto, è interessante osservare quale tipo di volontà, sentimenti e intenzioni umane siano realmente coinvolti. L’analisi di Latour è profondamente illuminante in questa prospettiva, poiché porta a considerare i sistemi di IA come parte di una rete di interagenti umani e non umani, in questo caso organizzati per pronunciare automaticamente parole di compassione. L’intenzione umana esiste qui, ma appare estremamente generica, remota e astratta. È quella degli sviluppatori e delle altre persone coinvolte nella decisione di costruire questo sistema. Tali sentimenti, volontà e intenzioni sono radicalmente diversi da quelli di una singola persona che esprime la propria compassione a qualcuno con cui è in contatto diretto. Il valore della parola pronunciata non è nemmeno paragonabile.
c. Il problema di trattare le macchine dall’aspetto umano come semplici macchine
In secondo luogo, è anche importante sottolineare che il semplice fatto di riconoscere che le macchine sono solo macchine e trattarle come puri strumenti non è necessariamente la risposta a ogni problema. Infatti, da questa prospettiva e con ogni probabilità, i compagni artificiali (come nel film di Spike Jonze del 2013 Her) saranno costruiti e programmati per trovare il loro posto in un mercato e quindi comportarsi in modo da soddisfare l’utente (ad esempio, chi vorrebbe un compagno artificiale che potrebbe tradire o abbandonare il proprio umano?). Ci troveremo quindi di fronte a sistemi percepiti come oggetti, come beni di proprietà, ma che trarranno tutto il loro fascino specifico dalla capacità di assomigliare a una persona in carne e ossa, di manifestare un’apparenza di umanità, personalità o vita. Abituarsi gradualmente alla combinazione di queste due caratteristiche potrebbe rivelarsi estremamente distruttivo per l’umanità. Potrebbe equivalere a sviluppare gradualmente una capacità di sentirsi a proprio agio con la schiavitù: «Laddove non c’è “altro”, ma solo l’apparenza di un altro a nostra disposizione, in concomitanza con l’assenza della richiesta che verrebbe esercitata sul proprio dono di sé attraverso il confronto con un vero altro, rischiamo di essere condizionati in un pericoloso talento per lo sfruttamento.»[5]
Allo stesso modo, questa combinazione di status di oggetto o strumento e aspetto personale può anche portarci ad abituarci a un atteggiamento consumistico nei confronti del comportamento altrui, riducendo gradualmente la nostra tolleranza verso comportamenti altrui che ci disturberebbero. Non è impossibile che la presenza costante di compagni artificiali, i cui comportamenti di disturbo saranno percepiti come difetti (in virtù del loro status di strumenti o oggetti), ci porti surrettiziamente a considerare le persone autentiche che ci disturbano allo stesso modo, «come semplicemente esseri umani difettosi, guardandoli con lo stesso tipo di oziosa insoddisfazione che proveremmo nei confronti di un robot che non fornisse l’insieme di comportamenti e reazioni che vorremmo consumare».[6]
Ciò potrebbe portare a riconsiderare la questione di quali diritti dovrebbero essere concessi ai robot e ai sistemi di IA. Certo, il loro status di macchine significa che possiamo legittimamente rifiutarci di considerarli soggetti di diritto. Ciò non significa, tuttavia, che dovremmo lasciare che chiunque faccia di loro ciò che vuole, proprio come potremmo fare con un tavolo. Un quadro normativo potrebbe essere auspicabile in questo ambito, se non altro per impedire lo sviluppo di comportamenti o abitudini estremamente dannosi per gli esseri umani e gli altri esseri viventi.
Tutti questi fattori ci spingono a riflettere profondamente sul perché si sviluppino macchine sempre più capaci di assumere le sembianze di esseri umani o di altri esseri viventi. Dobbiamo riflettere su ciò che possiamo realmente guadagnare da tali tecnologie.
[1] Scopri di più sull’apprendimento automatico nel contributo di un esperto di complessità alla democrazia: https://nhnai.org/focus-on-nexuses-of-complexity-democracy/
[2] See: https://www.erudit.org/fr/revues/cs/2022-n4-cs07915/1098602ar.pdf
[3] A. Ghosh, La malédiction de la muscade. Une contre-histoire de la modernité, Wildproject 2024, pp. 170-171 (our translation).
[4] INelle sottosezioni seguenti ci basiamo sul lavoro del AI Research Group of the Centre for Digital Culture (Culture and Education), e il suo libro “Encountering Artificial Intelligence: Ethical and Anthropological Investigations.” *Journal of Moral Theology* 1 (Theological Investigations of AI) 2023; especially chapter 4. https://doi.org/10.55476/001c.91230
[5] Ibid., p. 119.
[6] Ibid., p. 121. The full sentence reads: “Is it possible that we will no longer see this as a glimpse of a wider array of humanity, that we will not struggle toward a charitable response? Perhaps instead, we may come to think of these others as simply faulty human beings, viewing them with the same sort of idle dissatisfaction that we would feel with a robot that did not deliver the set of behaviors and reactions that we wanted to consume.”
