«Salvare i valori nel mondo della tecnica» Il
fenomenologo irlandese, Dermot Maran, si confronta con il messaggio del Papa per la Giornata
delle Comunicazioni: «Forse l’antropologia filosofica attuale non è sufficiente
per comprendere le sfide dell’intelligenza artificiale»
- - di LUCA MARIA SCARANTINO e GIOVANNI SCARAFILE
Il
recente documento di papa Francesco per la 58ª Giornata mondiale della
Comunicazioni sociali, Intelligenza artificiale e sapienza del cuore: per una
comunicazione pienamente umana, interviene con urgenza nel dibattito globale,
sollevando anche una serie di questioni fondamentali riguardanti l’impatto
dell’IA sulla società, sottolineando l’impellente necessità di valutare
attentamente le sue conseguenze sul benessere umano e sul tessuto morale della
nostra collettività. All’interno di questo scenario, emerge con chiarezza
l’importanza di un’indagine filosofica che sia in grado di offrire una
prospettiva analitica incisiva e radicata nella comprensione profonda della
condizione umana. In tal senso, il ricorso alla fenomenologia, la disciplina
filosofica che si fa carico di esplorare le strutture dell’esperienza vissuta,
può rivelarsi particolarmente utile per fare luce sulle dinamiche sottostanti i
fenomeni tecnologici, bilanciando la valutazione delle sue potenzialità
innovative con una critica acuta dei pericoli che può comportare. Dermot Moran,
Joseph Professor of Catholic Philosophy al Boston College e Past President
della Fisp (Fédération Internationale des Sociétés de Philosophie), è uno dei
massimi esponenti della fenomenologia contemporanea. In questa veste, egli può
aiutarci ad esplorare il terreno complesso delineato dal documento papale.
Nella conversazione avuta con lui, Moran pone l’accento sull’etica, sulla
salvaguardia della dignità umana, sulle sfide alla libertà umana delineando i
tratti di un umanesimo nell’era della intelligenza artificiale.
In
che modo considererebbe che il messaggio di papa Francesco interagisca con le
tendenze attuali nella filosofia contemporanea, particolarmente in relazione
allo sviluppo dell’intelligenza artificiale?
Questo
documento è estremamente opportuno e benvenuto e smentisce l’affermazione che
la Chiesa cattolica sia anti-scientifica o retrograda. In realtà, la Chiesa
cattolica sta guidando il cammino tra le religioni mondiali nella sua
riflessione critica sull’IA (che userò come termine breve per l’intelligenza
artificiale generativa e i grandi modelli di linguaggio che stanno emergendo
attualmente, offrendo qualcosa come “intelligenza” e persino “intelligenza
generale”). Il documento del Papa, ben ponderato e ben articolato, pone molte
domande profonde (ho contato almeno undici domande nel testo) a politici,
scienziati, filosofi e teologi, riguardo la sfida dell’IA in relazione al
«significato della vita umana, la costruzione della conoscenza, e la capacità
della mente di raggiungere la verità». Il documento inizia con un endorsement
fiducioso della capacità della mente umana, creata a immagine divina, di
acquisire conoscenza scientifica in tutti i campi, inclusa l’IA. Il progetto di
progredire nella razionalità scientifica è approvato: l’IA è un’altra
opportunità per gli umani di realizzare la loro capacità di conoscere, sebbene
il compito di conoscere sia infinito e noi siamo esseri finiti e limitati. Il
documento offre poi una panoramica concisa delle principali minacce (politiche,
economiche, sociali, psicologiche, persino spirituali) che l’IA generativa
pone. Si conclude con una preghiera affinché l’IA sia impiegata per superare
l’ingiustizia e la disuguaglianza e non per perpetuarle. Attualmente, molta filosofia
contemporanea ha riconosciuto la necessità di riflettere profondamente su come
il quadro tecno- scientifico stia trasformando l’umanità. La tecnologia non è
solo un insieme di strumenti, come ha sottolineato Martin Heidegger; è un
intero nuovo quadro ( Gestell) che contiene e promuove i suoi valori impliciti.
Le piattaforme di social media, ad esempio, non sono neutre come alcuni dei
loro creatori (ad esempio, Mark Zuckerberg) hanno insistito. Abbiamo quindi
assolutamente bisogno di una supervisione etica e legale. Il documento adotta
giustamente una prospettiva globale e universale. Inoltre, lo sviluppo dell’IA
non può essere il possesso di pochi a beneficio di pochi. Naturalmente, il
Papa, come leader spirituale, si concentra principalmente su questioni che
riguardano la filosofia morale e, in effetti, l’antropologia filosofica. Molto
giustamente, ricorda agli scienziati che queste nuove scoperte scientifiche
sono situate all’interno del più ampio quadro dello sviluppo culturale umano.
In questo senso, credo, ha ragione a enfatizzare la centralità dell’umano
contro coloro che, entusiasti ma ingenuamente, accolgono un futuro post-umano o
trans-umano! Sta anche invitando gli scienziati che lavorano con questi nuovi
modelli di apprendimento automatico a essere criticamente riflessivi e a
mantenere e promuovere i valori umani. La scienza è sempre stata sotto
l’influsso del sogno di Prometeo di controllare e dominare tutta la natura. Ma
rimaniamo esseri mortali, finiti, fragili, legati alla nostra casa terrena
finita che è il nostro ambiente nel senso più profondo. Il Papa ci ricorda che
l’esistenza umana è carica di valori e non può mai essere ridotta a un insieme
di algoritmi; i valori umani devono sempre guidare le scienze. Non dovremmo mai
abbandonare i valori umani riguardanti la giustizia, l’equità, l’uguaglianza,
ai calcoli delle macchine, non importa quanto appaiano “intelligenti” nel
setacciare i dati e prevedere le probabilità. Inoltre, il Papa è profondamente
consapevole che anche i migliori sistemi di IA incorporano molti valori
nascosti, presupposti e pregiudizi, che possono essere riduttivi o distorcenti
o discriminatori, riflettendo esattamente le complessità del nostro mondo umano
e non superandole. Le macchine devono rimanere controllate dagli umani «in
possesso del proprio universo di valori», come afferma il documento. Filosofi e
scienziati, quindi, hanno urgentemente bisogno di esaminare i valori impliciti
in questi sistemi di IA e renderli responsabili ai nostri valori più profondi.
Quali
potenziali minacce alla dignità umana considera particolarmente rilevanti alla
luce delle riflessioni di papa Francesco sull’intelligenza artificiale?
Il
documento del Papa elenca chiaramente i pericoli dell’apprendimento automatico,
dell’”allucinazione” (ovvero, inventare cose), dell’affidabilità incerta, della
capacità di disinformazione e distorsione, le possibilità (già manifeste) di
“esclusione digitale”, minacce alla privacy, serie questioni riguardanti la
proprietà dei dati e della proprietà intellettuale, e la capacità di generare
nuove ingiustizie, ad esempio, l’IA che utilizza metodi di selezione per i
candidati di lavoro che introducono nuove forme di discriminazione e
pregiudizio. Il Papa è ansioso che i progressi scientifici promuovano il
benessere umano o il “miglioramento” e non portino a discordie ancora maggiori
e svantaggi. Nessuno dovrebbe essere escluso da questa nuova conoscenza. In effetti,
ci sono già prove considerevoli di questa esclusione digitale; intere regioni
del mondo non hanno accesso neanche all’elettricità o all’acqua pulita, per non
parlare degli ultimi strumenti di IA. Ci sono anche molte questioni riguardanti
la profonda distorsione della conoscenza che può influenzare affari politici e
sociali, influenzando elezioni o altre discussioni politiche. Il Papa, quindi,
chiama giustamente a regolamentazioni per assicurare che questi avanzamenti
dell’IA proteggano gli individui e il bene sociale. Ci sono minacce di furto
dell’identità di una persona, persino del proprio volto, voce, Dna, che vengono
rimossi dal controllo del soggetto. L’uso dell’IA nella selezione degli esseri
umani per lavori ecc. è carico di pericoli che coinvolgono forme di pre giudizio
e discriminazione, sia consce che inconsce. È consapevole che gli umani possono
essere manipolati con informazioni false, illusioni, dissimulazioni, simulacri,
un mondo ombroso di apparenze proprio come la caverna di Platone. C’è la
necessità di preservare il controllo umano su tutti i nostri sistemi di
informazione. C’è la necessità di proteggere la dignità e l’integrità della
persona umana. Quindi, la domanda è: come effettuare il controllo sullo
sviluppo dell’IA per assicurare che soddisfi gli standard più elevati di cura e
rispetto per i soggetti umani? Questo è chiaramente un compito in corso e che
necessita di tutte le nostre discipline intellettuali e risorse. Religione e
filosofia giustamente hanno una voce.
Come
considera l’impatto dell’intelligenza artificiale sulla nostra comprensione
della libertà umana e della volontà?
Mi
sembra che dobbiamo andare oltre la vecchia opposizione tra libertà e
determinismo. Molti scienziati sono ingenuamente deterministici riguardo agli
esseri umani e, infatti, riguardo all’universo stesso. La scienza contemporanea
è effettivamente una manifestazione della volontà di potere su tutta la natura,
inclusa la natura umana stessa. Ci sono già esperimenti che coinvolgono il
presunto potenziamento dell’intelligenza tramite l’impianto (in umani e
animali) di microchip che funzionano nel cervello stesso. Ci sono già
preoccupazioni che gli scienziati sfrutteranno i vulnerabili in questi
esperimenti, come in passato ci sono stati esperimenti su prigionieri, orfani e
sui destituiti. Ma c’è anche la preoccupazione che l’IA perpetuerà le
disuguaglianze. Certamente, i sistemi di IA hanno la capacità di darci più
libertà rimuovendo la fatica, ma l’IA ha un pericolo ancora maggiore di
schiavizzare l’umanità attraverso l’accesso e la manipolazione non
regolamentati dei dati umani.
In
quali modi il Papa percepisce il ruolo dell’intelligenza artificiale nel
favorire una comunicazione autenticamente umana?
Il
documento papale adotta giustamente una prospettiva universalista e una fiducia
che il miglior uso della conoscenza scientifica sarà effettivamente a beneficio
di tutta l’umanità. In questo senso, il documento è ottimista e non certo
apocalittico. La lettera esige che poniamo queste nuove scoperte al centro
delle nostre preoccupazioni per il “miglioramento” umano (human betterment) e
che ci educhiamo a gestire queste nuove realtà. Le nuove scoperte in ambito IA
possono assistere noi meglio nell’accedere e condividere la conoscenza,
assumendo che vogliamo genuinamente rimuovere le barriere. Dobbiamo proteggerci
dall’esclusività nei benefici di questa conoscenza e anche dai pericoli dei
sistemi di autoapprendimento IA che funzionano al di fuori del controllo umano
tanto da costituire una minaccia esistenziale per la razza umana. Questo non è
più roba da fantascienza. Abbiamo due imperativi fondamentali: proteggere tutta
la vita umana e proteggere il nostro ambiente ecologico planetario. Oggi stiamo
quasi annegando nell’inondazione di informazioni senza che ci sia un vero
dialogo e comunicazione. Una posizione critica è profondamente necessaria per
aiutarci a contrastare la disinformazione che si maschera da comunicazione.
A
suo avviso, quali sfide e opportunità l’intelligenza artificiale potrebbe
presentare per il futuro della società?
Le
trasformazioni tecnologiche degli ultimi due secoli sono state un turbine. I
modi di trasporto si sono spostati molto rapidamente dal cavallo e carrozza
(onnipresenti prima della Grande Guerra) al treno, l’automobile, l’aereo e la
navicella spaziale. Meccanizzazione e industrializzazione hanno effettivamente
eliminato la fatica umana e liberato gli esseri umani per forme di attività
superiori. I sistemi di satelliti forniscono comunicazioni a livello globale.
Ma la tecnologia produce anche le armi di distruzione di massa che ovunque
causano immense sofferenze. La scoperta e il dispiegamento effettivo delle
bombe atomiche sono un costante promemoria del modo in cui la scoperta
scientifica può portare a conseguenze orrende. Nonostante i nostri progressi tecnologici,
il nostro mondo oggi ha ancora enorme sfruttamento e schiavitù; pensa
all’orrore del lavoro minorile. L’IA deve essere usata per migliorare le
condizioni dei lavoratori, ma non a costo di rendere i lavoratori poco
qualificati permanentemente inoccupabili. La sfida più grande, come giustamente
sottolinea il Papa, è preservare i valori umani e portare tutta l’umanità con
noi in questo viaggio. Il Papa vede ciò in termini di realizzazione del piano
divino per rendere la terra un luogo abitabile per gli esseri umani. Ci sono
sfide significative al modo in cui comprendiamo gli esseri umani ma non
dobbiamo abbandonare i nostri sforzi per mantenere la persona umana al centro
delle nostre preoccupazioni. Dobbiamo frenare l’esuberanza dei tecnocrati prometeici,
preservare le fonti dei valori umani e della libertà umana, e continuare ad
esercitare il nostro controllo razionale sulle nostre vite per il miglioramento
dell’umanità e del nostro mondo. Un fatto notevole che mi colpisce come
filosofo e fenomenologo è come gli algoritmi e le procedure dell’IA
(soprattutto i grandi modelli di linguaggio) siano effettivamente costruiti su
e riproducano le dense assunzioni pre-predicative e la rete di credenze e
pratiche che Husserl definiva il “mondo della vita” ( Lebenswelt). Sebbene i
sistemi di IA possano essere infusi con le migliori prospettive “morali” e
circondati da leggi e procedure esplicite per eliminare i pregiudizi, ecc., è
chiaro che esiste un sistema di credenze e valori implicito ancora più ampio
incorporato nei sistemi operativi delle piattaforme stesse. Ad esempio, uno
strumento di IA di un’agenzia di reclutamento potrebbe filtrare i candidati i
cui modelli di discorso non si conformano a ciò che l’IA considera educato. In
questo senso, i filosofi hanno urgentemente bisogno di riflettere se
l’antropologia filosofica attuale sia sufficiente per comprendere le sfide
dell’IA. È necessario un radicale ripensamento della nostra esistenza umana per
identificare e preservare i nostri valori più profondi.
www.avvenire.it
Nessun commento:
Posta un commento