La democrazia saprà
essere resiliente
alle nuove forme
di potere computazionale?
- - di PAOLO BENANTI*
Durante
la Seconda guerra mondiale, per scopi bellici, furono sviluppati i primi
computer: Colossus, creato a Bletchley Park nel Regno Unito e, negli Usa,
l’Atanasoff-Berry Computer e l’Eniac.
Nell’immediato
dopoguerra a partire dagli anni ’50, l’introduzione dei transistor al silicio
ha permesso la creazione di computer più piccoli, veloci e affidabili mentre i
circuiti integrati, apparsi negli anni ’60, hanno ulteriormente ridotto le
dimensioni e i costi, aumentando la funzionalità dei computer. Si inaugura così
una stagione in cui si diffonde la potenza computazionale nella società. In
quegli anni, questa distribuzione della potenza computazionale avviene
confinandola in “mainframe”. Tuttavia, è la comparsa di una nuova corrente
culturale che possiamo definire, ci si perdoni il gioco di parole, come Bit
generation, che ha prodotto il profondo meccanismo di decentralizzazione dei
decenni seguenti.
La
rivoluzione tecnologica si è nutrita dal seme della controcultura californiana
degli anni ’60. Il centro di questo modo di vedere il computer e l’informatica
è stato ed è la Silicon Valley, l’area compresa tra San Francisco e San José.
È
stato soprattutto l’ideale comunitario dei figli dei fiori, la loro indole
libertaria, la voglia di allargare gli orizzonti e il disprezzo per l’autorità
centralizzata a fare da asse portante per i fondamenti filosofici ed etici di
Internet e dell’intera rivoluzione del personal computer. La rete si è avviata
proprio verso il crepuscolo di quell’esperienza.
La
fine di questo processo di democratizzazione si è avuta verso la fine del primo
decennio di questo secolo con l’avvento dello smartphone.
Nel
momento in cui la potenza computazionale personale ha iniziato ad abitare le
nostre tasche, ha iniziato anche a sottrarci una certa autonomia: lo smartphone
ha bisogno di un sottostato invisibile e fondamentale, la rete, che ne
garantisce l’operatività e che nutre il potere computazionale tascabile che
abbiamo e “datifica” le nostre esistenze personali. Di fatto lo smartphone ha
cominciato a interporsi in maniera sempre più massiccia fra noi e le cose che
facciamo quotidianamente riconfigurando in termini di transazione digitale, la
maggior parte degli atti che compongono la nostra quotidianità. Ma se la nostra
esistenza e la nostra capacità di agire nello spazio pubblico si è
riconfigurata in forma digitale, di fatto il nostro diritto e potere di cittadinanza
è divenuto di fatto computazionale. Oggi le nostre esistenze democratiche sono
esistenze computazionali. La democrazia divenuta computazionale sfrutta oggi
anch’essa le potenzialità delle tecnologie informatiche per rendere più
efficace e inclusiva la partecipazione dei cittadini alle decisioni pubbliche.
Tuttavia, se il primo decennio del secolo si è concluso con le primavere arabe
facendoci sperare che il digitale connesso fosse lo spazio dove si sarebbe
diffusa e rafforzata la democrazia liberale, la fine del secondo decennio, con
le rivolte di Capitol Hill, ci ha iniziato a far temere per il futuro della
democrazia nello spazio digitale-computazionale.
L’avvento
delle intelligenze artificiali sta di nuovo cambiando l’orizzonte. I servizi
dell’IA sfocano il confine tra potere computazionale personale e potere
centralizzato nel cloud: nell’usare i nostri telefoni non sappiamo quasi più
cosa viene eseguito in locale e cosa in cloud. Questa nuova forma di
centralizzazione nei cloud però adesso con sé anche una centralizzazione della
capacità computazionale personale associata alla democrazia. La domanda da
affrontare allora sarà come rendere democratico il potere centralizzato del
cloud e dell’AI evitando che la democrazia computazionale collassi in una
oligarchia del cloud.
L’esperienza
d’uso dei computer è destinata a subire una nuova radicale trasformazione. Fin
dall’inizio della storia del computer è stato l’uomo il collo di bottiglia
nella relazione con la macchina. Nel 1975, con l’introduzione del sistema
operativo DOS, abbiamo velocizzato la relazione con la macchina grazie alle
tastiere. Nel 1985 i sistemi a finestre come Windows, ci hanno permesso di
guadagnare velocità con il mouse. A partire dalla fine degli anni Novanta il
touch è stato un ulteriore cambio di relazione. Oggi ci sembra di aver
raggiunto la più naturale e veloce delle interfacce: il linguaggio umano. Musk
continua a sognare frontiere più veloci con i suoi impianti cerebrali. Di fatto
infondere i sistemi operativi con dei Large Language Model (LLM) eseguiti in locale
è una rivoluzione nell’interfaccia e nella velocità di utilizzo della macchina:
mai come ora possiamo dire cosa fare alla macchina come faremmo con un nostro
simile e siccome la capacità di cooperare tra membri della nostra specie è alla
base della nostra ascesa planetaria come specie dominante, non pochi iniziano a
sognare un futuro fatto di utopie o distopie al confine dell’ibridazione tra
uomo e macchina.
Uno
degli aspetti più preoccupanti di questa nuova frontiera dell’interazione con
la macchina è l’enorme ampliarsi della superficie di attacco cyber. Poter far
eseguire dei processi al computer mediante comandi linguistici significa di
fatto trasformare gli LLM in agenti in grado di compiere operazioni sul
computer: dei maggiordomi elettronici. Se fino ad oggi gli hacker potevano
entrare nei nostri sistemi e prelevare dati, cancellarli o criptarli per
chiedere riscatti o usare il nostro computer per fare attacchi verso altri
computer, cosa saranno in grado di fare oggi? Con la stessa efficienza con cui
aiuta noi, il nostro maggiordomo può trovare tutte le nostre informazioni
compromettenti e comunicarle al malintenzionato.
La
democrazia saprà insomma essere resiliente a queste nuove forme di potere
computazionale?
*Francescano. Docente di etica e bioetica. Etica della tecnologia e Artificial Intelligence, neuro-etica e post-umano. componente del New Artificial Intelligence Advisory Board delle Nazioni Unite, capo della Commissione Nazionale sull'Intelligenza Artificiale per l'informazione.
www.avvenire.it
Versione per la stampa