«Intelligenza artificiale?
Contro i nuovi algoritmi
del potere
serve una governance condivisa»
Il francescano esperto di
etica delle tecnologie è intervenuto durante un incontro dedicato alla
"Magnifica Humanitas". Il teologo ha sottolineato che l'enciclica
mette in risalto la necessità di rendere i processi decisionali sull'Ai
democratici. «Non bastano richiami generici all'etica, servono norme giuridiche
adeguate»
«Quando abbiamo costruito
le automobili, abbiamo messo i guardrail ai bordi della strada. La stessa cosa
dobbiamo fare oggi con l’Intelligenza artificiale». È con questa immagine,
semplice quanto efficace, che padre Paolo Benanti, teologo, francescano
ed esperto di etica delle tecnologie, sintetizza la sfida lanciata
dall’enciclica Magnifica Humanitas di Papa Leone XIV.
L’occasione è un incontro
promosso dall’Ufficio Pastorale Sociale, Lavoro e Custodia del Creato del
Vicariato di Roma, dedicato proprio al nuovo documento pontificio. Siamo nel
quartiere Prenestino, alla periferia della Capitale. Nonostante il caldo estivo,
oltre ottanta persone affollano una piccola libreria di quartiere per discutere
di intelligenza artificiale, democrazia e futuro.
L’intelligenza
artificiale e i monopoli
Benanti entra subito nel
merito. «Uno strumento che costa poco più di mille euro, un drone, con un
semplice aggiornamento software può distruggere un carro armato Abrams,
completamente rivestito d’acciaio, costato centinaia di milioni. In Ucraina
abbiamo scoperto che quel codice viene aggiornato ogni cinque o sei minuti,
rendendo ogni volta quell’arma completamente diversa».
Da buon francescano e
allievo dei gesuiti, Benanti individua immediatamente il cuore
dell’enciclica: il passaggio in cui Papa Leone XIV invita la comunità
internazionale a “disarmare l’Ai”. “Vuol dire – scrive il Pontefice –
rompere l’alleanza fra potenza tecnica e diritto di governare”. In altre
parole, significa “sottrarla ai monopoli, impedirle di dominare l’umano”.
Chi controlla il software
controlla tutto
«Chi controlla il
software controlla tutto», osserva Benanti. È il potere della software-defined
reality, della realtà definita dal software. Per spiegare quanto questo
tema riguardi la vita quotidiana, il professore di Etica della tecnologia alla
Luiss Guido Carli, a Roma, e alla Seattle University, negli States, ricorre a
un’altra immagine. «Se domani volete entrare all’aeroporto di Fiumicino con
un’arma, non potete farlo. Con l’Intelligenza artificiale, invece,
potenzialmente sì. Con tre righe di codice si potrebbe trasformare perfino uno
smartphone in un’arma, modificando il funzionamento della batteria fino a
provocarne l’incendio».
Come si governa una
realtà di questo tipo? È la domanda attorno alla quale ruota l’intera
enciclica. La questione decisiva, infatti, non è scegliere se accettare o
rifiutare l’Intelligenza artificiale, ma decidere se lasciarne il governo agli
interessi di pochi oppure costruire una governance orientata al bene comune.
«Quel potere che abbiamo imparato ad addomesticare nei secoli – dall’Impero
romano agli Stati moderni fino alle democrazie occidentali – oggi rischia di
spostarsi nelle mani di pochi», avverte. «E non sono mani democratiche. Sono
mani private che possono trasformare un giocattolo in un’arma con un semplice
aggiornamento software».
Che fare?
Durante il dibattito
interviene anche Alessandra Poggiani, direttore generale del Cineca,
il più grande centro di calcolo in Italia. La domanda che attraversa l’incontro
è inevitabile: che cosa bisogna fare?
«Il messaggio del Papa è
molto chiaro», risponde Benanti. «Davanti a una macchina che può prendere
decisioni capaci di incidere sulla vita delle persone, è evidente che
tali decisioni non possono essere affidate a cinque soggetti in tutto il
mondo».
Il riferimento è ai
paragrafi 106, 107 e 108 di Magnifica Humanitas. Papa Leone XIV
invita alla prudenza, chiede controlli rigorosi e, quando necessario, anche un
rallentamento nell’adozione dell’Ai. Non per ostacolare il progresso, ma perché
lo sviluppo tecnologico corre molto più velocemente della capacità delle istituzioni,
del diritto e della società di comprenderne e governarne gli effetti. Per
questo motivo, secondo il Pontefice, non bastano richiami generici
all’etica. Servono norme giuridiche adeguate, organismi indipendenti di
vigilanza, cittadini consapevoli e una politica capace di esercitare il proprio
ruolo.
Condividere i processi
perché siamo in democrazia
Soprattutto, non basta
chiedere che l’Ai sia programmata secondo principi morali. Occorre, infatti,
prima di tutto, chiedersi chi definisce quei valori e con quale
legittimazione democratica. Se quei criteri vengono stabiliti da un numero
ristretto di soggetti, saranno loro a imporre, spesso in modo invisibile, la
propria visione del mondo attraverso gli algoritmi. «Il processo va
condiviso», insiste Benanti. «Perché siamo in democrazia».
Non tutti, però,
condividono questa impostazione. «Peter Thiel, per esempio, ha reagito dicendo:
“Se il Papa assume questa posizione, allora sta lavorando per i comunisti
cinesi”. Lascio a voi ogni giudizio su queste parole», osserva Benanti con
ironia.
Poi conclude: «o mi sento di parte. Tifo per la democrazia». Il rischio,
spiega ancora, è che l’Intelligenza artificiale finisca per incidere su ogni
ambito della vita: dall’accesso alle cure alla scuola, dal lavoro ai diritti
fondamentali. «Per tali ragioni, questo strumento non può rimanere nascosto.
Deve essere condiviso, negoziato, governato», ribadisce.
Fondamentali
infrastrutture e una Ai Factory europea
Ma oggi non tutti partono
dalle stesse condizioni. Le piattaforme e le grandi infrastrutture dell’Ai sono
concentrate nelle mani di pochissimi attori, anche perché gli investimenti
richiesti sono enormi. In questo scenario assume particolare rilievo il ruolo
del Cineca, che ha ottenuto dalla Commissione europea 430 milioni di euro per
la realizzazione di una Ai Factory europea.
«È fondamentale», osserva
Alessandra Poggiani, «che insieme alle regole l’Europa costruisca anche
una propria forza infrastrutturale, industriale e scientifica. Solo così
potremo essere protagonisti e non semplici consumatori delle nuove
tecnologie».
La sfida è anche
culturale. Occorrono formazione, educazione e consapevolezza. Occorre
coinvolgere il decisore politico, ma anche la scuola, l’università e tutti quei
corpi intermedi nei quali si costruisce la società. «Il fenomeno va governato e
condiviso», insiste Benanti. «Non è più soltanto una questione tecnica ma
politica».
Il problema del potere
Quando, il 15 maggio
scorso, Papa Leone XIV ha firmato Magnifica Humanitas, in occasione
del 135° anniversario della Rerum Novarum di Leone XIII, molti
hanno colto immediatamente la portata sociale e politica del documento. Come
la Rerum Novarum interpretò le trasformazioni della
rivoluzione industriale, oggi l’enciclica affronta le nuove concentrazioni di
potere generate dall’Intelligenza artificiale. «È un problema di potere»,
conclude Benanti. «E oggi quel potere risiede in luoghi diversi da quelli
tradizionali, dove interessi privati iniziano perfino a sostenere che la
democrazia sia un esperimento fallito».
Serve una governance
condivisa
«È il Far West, dove
esiste un solo diritto: quello del più forte». L’alternativa indicata
dall’enciclica è una governance condivisa dell’Intelligenza artificiale.
O, per usare l’immagine di Papa Leone XIV, ricostruire una nuova
Gerusalemme: una civiltà che non nasce dall’iniziativa del singolo, ma dalla
comunità, dalla cooperazione e dalla responsabilità condivisa.
Nessun commento:
Posta un commento