Nel
messaggio per la 58.ma Giornata Mondiale delle Comunicazioni Sociali, Francesco
riflette su opportunità e rischi dell’intelligenza artificiale e delle nuove
tecnologie che stanno “modificando in modo radicale l’informazione”. Un
pensiero per tutti i reporter di guerra: “L’uso dell’IA non annulli il ruolo
del giornalismo sul campo. Solo toccando con mano la sofferenza si può
comprendere l’assurdità delle guerre”
-
-
di Salvatore Cernuzio – Città del Vaticano
Fake
news e deep
fake, echo chambers, machine learning, social media. Nuovi strumenti, nuovi
canali, nuove opportunità ma, allo stesso tempo, nuove “patologie” e insidie
soprattutto per il campo della comunicazione che rischia di finire oggetto
dell’“inquinamento cognitivo”, cioè l’alterazione della realtà tramite false
narrazioni, falsi messaggi vocali e false fotografie (anche il Papa ne è stato
oggetto), o l’annullamento del prezioso ruolo dei reporter sul campo, in
particolare negli scenari di guerra. Papa Francesco torna a riflettere sull’IA
nel suo Messaggio per la 58.ma Giornata Mondiale delle Comunicazioni
Sociali sul tema Intelligenza artificiale e sapienza del
cuore: per una comunicazione pienamente umana. Nel documento
firmato a San Giovanni in Laterano per il 24 gennaio, festa di San Francesco di
Sales, patrono dei giornalisti, Francesco guarda con ammirazione e
preoccupazione all’evoluzione dei sistemi che stanno “modificando in modo
radicale anche l’informazione e la comunicazione” e, “alcune basi della
convivenza civile”.
Si
tratta di un cambiamento che coinvolge tutti, non solo i professionisti
Il
Papa: l’intelligenza artificiale sia via di pace, non promuova fake news o la
follia della guerra
L'importanza
dei reporter
Il
pensiero del Papa è in particolare al mondo del giornalismo, al racconto delle
guerre e a quella “guerra parallela” tramite campagne di disinformazione.
“Quanti reporter sono feriti o muoiono sul campo per permetterci di vedere
quello che i loro occhi hanno visto”, scrive Francesco, “solo toccando con mano
la sofferenza dei bambini, delle donne e degli uomini, si può comprendere
l’assurdità delle guerre”.
L’uso
dell’intelligenza artificiale potrà contribuire positivamente nel campo della
comunicazione, se non annullerà il ruolo del giornalismo sul campo, ma al
contrario lo affiancherà; se valorizzerà le professionalità della
comunicazione, responsabilizzando ogni comunicatore; se restituirà ad ogni
essere umano il ruolo di soggetto, con capacità critica, della comunicazione
stessa
Non
irrigidirsi davanti al nuovo, ma restare sensibili a ciò che non è umano
Dinanzi
all’accelerazione della diffusione di “meravigliose invenzioni” che suscita
“uno stupore che oscilla tra entusiasmo e disorientamento”, il Papa invita a
domandarsi: “Come possiamo rimanere pienamente umani e orientare verso il bene
il cambiamento culturale in atto?”.
Intanto,
“conviene sgombrare il terreno dalle letture catastrofiche e dai loro effetti
paralizzanti”; quindi, come affermava Romano Guardini, “non irrigidirsi contro
il ‘nuovo’ nel tentativo di conservare un bel mondo condannato a sparire”. Al
tempo stesso, però, bisogna rimanere “sensibili” a tutto ciò che è
“distruttivo” e “non umano”. Bisogna, cioè, ripartire dal cuore “in quest’epoca
che rischia di essere ricca di tecnica e povera di umanità”. Serve sapienza,
afferma ancora Francesco, e non possiamo pretenderla dalle macchine.
Non
si tratta di esigere dalle macchine che sembrino umane. Si
tratta piuttosto di svegliare l’uomo dall’ipnosi in cui cade per il suo delirio
di onnipotenza, credendosi soggetto totalmente autonomo e autoreferenziale,
separato da ogni legame sociale e dimentico della sua creaturalità
Il
pericolo delle fake news
È
una tentazione antica, infatti, quella dell’uomo, di “diventare come Dio senza Dio”.
E “ogni prolungamento tecnico dell’uomo può essere strumento di servizio
amorevole o di dominio ostile”, sottolinea il Papa. “I sistemi di intelligenza
artificiale possono contribuire al processo di liberazione dall’ignoranza e
facilitare lo scambio di informazioni tra popoli e generazioni diverse”.
Possono, però, essere pure strumenti di “inquinamento cognitivo”, cioè di
quelle fake news che si avvalgono del deep fake,
la “creazione” e “diffusione di immagini che sembrano perfettamente verosimili
ma sono false (è capitato anche a me di esserne oggetto)”, o di “messaggi audio
che usano la voce di una persona dicendo cose che la stessa non ha mai detto”.
La simulazione alla base “diventa perversa là dove distorce il rapporto con gli
altri e la realtà”, ammonisce il Pontefice.
Il
Papa: attenzione alla diffusione di falsità e odio attraverso i social network
L'incontro
stamattina, in Vaticano, di Papa Francesco con gli appartenenti
all’International Catholic Legislators Network, una rete la cui finalità è la
formazione di una nuova ...
Opportunità
e rischi dei social
Si
sofferma poi sui social media, anch’essi “strumenti che nelle mani sbagliate
potrebbero aprire scenari negativi”. “Come ogni altra cosa uscita dalla mente e
dalle mani dell’uomo, anche gli algoritmi non sono neutri”, annota il Papa,
chiedendo di “agire preventivamente”, proponendo modelli di regolamentazione
etica. L’appello è di nuovo alla Comunità internazionale a formulare “un
trattato internazionale vincolante, che regoli lo sviluppo e l’uso
dell’intelligenza artificiale nelle sue molteplici forme”.
Grandi
possibilità di bene accompagnano il rischio che tutto si trasformi in un
calcolo astratto, che riduce le persone a dati, il pensiero a uno schema,
l’esperienza a un caso, il bene al profitto, e soprattutto che si finisca col
negare l’unicità di ogni persona e della sua storia, col dissolvere la
concretezza della realtà in una serie di dati statistici
“La
rivoluzione digitale può renderci più liberi”, aggiunge poi il Pontefice,
sottolineando che tuttavia “non è accettabile che l’uso dell’intelligenza
artificiale conduca a un pensiero anonimo, a un assemblaggio di dati non
certificati, a una deresponsabilizzazione editoriale collettiva”. La
rappresentazione della realtà in big data rischia di
“danneggiare la nostra stessa umanità”.
Domande
cruciali
Da
qui una serie di domande per riflettere sul presente e sul futuro, punto
centrale dell’intero Messaggio:
Come
tutelare la professionalità e la dignità dei lavoratori nel campo della
comunicazione e della informazione, insieme a quella degli utenti in tutto il
mondo? Come garantire l’interoperabilità delle piattaforme? Come far sì che le
aziende che sviluppano piattaforme digitali si assumano le proprie
responsabilità rispetto a ciò che diffondono e da cui traggono profitto,
analogamente a quanto avviene per gli editori dei media tradizionali? Come
rendere più trasparenti i criteri alla base degli algoritmi di indicizzazione e
de-indicizzazione e dei motori di ricerca, capaci di esaltare o cancellare
persone e opinioni, storie e culture?
Ancora
il Papa chiede:
Come
garantire la trasparenza dei processi informativi? Come rendere evidente la
paternità degli scritti e tracciabili le fonti, impedendo il paravento
dell’anonimato? Come rendere manifesto se un’immagine o un video ritraggono un
evento o lo simulano? Come evitare che le fonti si riducano a una sola, a un
pensiero unico elaborato algoritmicamente? E come invece promuovere un ambiente
adatto a preservare il pluralismo e a rappresentare la complessità della
realtà? Come possiamo rendere sostenibile questo strumento potente, costoso ed
estremamente energivoro? Come possiamo renderlo accessibile anche ai paesi in
via di sviluppo?
Nuove
schiavitù e conquiste di libertà
Dalle
risposte a questi interrogativi, “capiremo se l’intelligenza artificiale finirà
per costruire nuove caste basate sul dominio informativo, generando nuove forme
di sfruttamento e di diseguaglianza” oppure, insiste Francesco, se “porterà più
eguaglianza”, promuovendo una corretta informazione e una maggiore
consapevolezza del passaggio di epoca.
Da
una parte si profila lo spettro di una nuova schiavitù, dall’altra una
conquista di libertà; da una parte la possibilità che pochi condizionino il
pensiero di tutti, dall’altra quella che tutti partecipino all’elaborazione del
pensiero
La
risposta non è scritta, dipende da noi: “Spetta all’uomo decidere se diventare
cibo per gli algoritmi oppure nutrire di libertà il proprio cuore”.
Vatican
News
