Risvolti
inquietanti di un’evoluzione tecnologica senza limiti
Le
super-intelligenze artificiali possono decidere di eliminarci
La
stupefacente progressione dell’IA dice che presto potrebbe superare sé stessa,
mentre l’umanità non è preparata e i filosofi morali sono in disaccordo sui
principi etici.
Grandi rischi per i lavoratori
- di MATHIAS RISSE
Viviamo
nel secolo digitale e dobbiamo riflettere su come abitare questa fase della
vita umana, che potrebbe essere per tutti noi particolarmente favorevole. Gran
parte dell’innovazione nel settore digitale è guidata dall’apprendimento
automatico (Machine Learning), un insieme di metodi che analizzano la miriade
di dati disponibili (Big Data) per individuare tendenze e fare deduzioni. A
differenza dei programmi convenzionali, gli algoritmi di apprendimento
automatico imparano da soli, attingendo ai dati disponibili. Questi algoritmi
si basano sulle cosiddette “reti neurali”, programmi che imitano il modo in cui
le cellule cerebrali interagiscono tra loro. In genere, sono il cuore degli
sforzi per creare l’intelligenza artificiale (IA). Grazie alla loro
sofisticazione e alle loro vaste applicazioni, queste tecniche sono destinate a
modificare radicalmente il nostro mondo. Un modo per capire perché tutto questo
potrebbe essere un momento di svolta o di rottura è offerto dal paradosso di
Fermi, dal nome del fisico italiano Enrico Fermi. Da un lato, è estremamente
probabile che esista vita intelligente nell’universo oltre a quella sulla
Terra. Ma allora: dove sono tutti? Nonostante il continuo interesse per gli
UFO, non abbiamo prove conclusive dell’esistenza di vita extraterrestre. Questo
è il paradosso. Una possibile spiegazione è che la vita intelligente muoia
ovunque esiste prima di potersi mettere in contatto con la vita intelligente su
altri pianeti. Ciò, a sua volta, potrebbe essere dovuto al fatto che la
tecnologia (un prodotto dell’intelligenza) genera dinamiche che finiscono con
il cancellare del tutto la vita intelligente. O vviamente, non è necessario che
sia così. Molti ingegneri e scienziati sociali che adottano un atteggiamento
meno speculativo si spazientiscono di fronte a ipotesi apocalittiche. Ma
l’elemento da considerare è che le basi dell’era digitale sono state gettate
solo alcuni decenni fa, con il progetto di “intelligenza artificiale”, che
risale solo alla metà degli anni Cinquanta. Nel complesso, il ritmo del
cambiamento è straordinario.
La
produzione di modelli di intelligenza artificiale sembra ora entrare in una
sorta di era industriale, ben oltre le fasi precedenti in cui questi modelli
erano più artigianali e sperimentali. Questi progressi si fondano sulle
scoperte avvenute intorno al 2010, quando i computer sono diventati
sufficientemente potenti per eseguire modelli di apprendimento automatico di
grandissima portata e Internet ha iniziato a fornire l’enorme quantità di dati
per l’addestramento che tali algoritmi richiedono per addestrarsi. Da allora, i
progressi concettuali nella programmazione hanno portato alla creazione di
software sempre più complessi e sofisticati.
I
supercomputer necessari per consentire ai modelli di IA più avanzati di
dispiegare tutta la loro potenza sono diventati così costosi che, a meno di
strategie governative per finanziare l’IA nei Paesi più ricchi, è probabile che
il settore finisca con l’essere dominato dall’agenda di ricerca di poche
aziende private con amplissime risorse.
Per quanto riguarda l’IA specializzata, all’estremo più alto vi sono gli
algoritmi che vincono a scacchi o a Go. Qui il punto non è solo che
l’intelligenza artificiale batte i giocatori umani, ma la stupefacente
progressione di come ciò sia avvenuto. Inizialmente l’IA ha tratto lezioni
dalla storia del gioco condotto da persone, poi ha giocato contro sé stessa, ma
in seguito ha imparato da sola le regole e infine ha creato sistemi in grado di
apprendere e vincere in diversi giochi (tutto ciò è avvenuto nel giro di pochi
anni). Sempre nella fascia alta sono compresi il riconoscimento vocale e
l’elaborazione del linguaggio naturale, con l’emergere di modelli linguistici
di grandi dimensioni in grado di generare prodotti simili a quelli umani (più
recentemente Chat-GPT). Ma lasciando da parte queste tecnologie di alto
livello, l’IA specializzata opera già in numerosi dispositivi di uso
quotidiano. A differenza delle operazioni specializzate descritte, l’IA
generale si avvicina alle prestazioni umane in tutti i settori. Una volta che
l’IA generale sarà più intelligente di noi, potrebbe produrre qualcosa di più
intelligente di sé stessa, e così via, forse molto rapidamente. Quel momento è
noto come la singolarità, un’esplosione di intelligenza che sarebbe
probabilmente il più grande evento della storia umana. C erto, la possibilità,
la natura e la probabilità di una singolarità sono ancora molto controverse e
non siamo affatto vicini a qualcosa di simile. Ma “non siamo vicini” potrebbe
significare in termini di capacità ingegneristiche piuttosto che di tempo.
Alcune scoperte importanti potrebbero trasformare radicalmente il campo. Il
nostro cervello si è evoluto per operare in piccoli gruppi di esseri umani che
devono cooperare per procurarsi le risorse naturali per sopravvivere. Nel corso
del tempo l’innovazione tecnologica ci ha fornito possibilità di gestione per
le quali i nostri cervelli non si sono mai evoluti. Anche dal punto di vista
filosofico, siamo tristemente impreparati per questo nuovo mondo. I filosofi
morali continuano a essere in profondo disaccordo sui principi fondamentali
dell’etica, al punto che non possiamo essere sicuri che le super-intelligenze troverebbero
qualcosa di sbagliato nell’eliminarci. Anche la relazione tra mente e corpo è
poco compresa, tanto che non abbiamo una risposta generalmente accettata alla
domanda se le macchine, oltre a essere intelligenti, saranno anche coscienti.
Inoltre, non è chiaro se una combinazione di intelligenza e coscienza possa
dare loro anche un’altra cosa che gli esseri umani apprezzano molto: la
razionalità pratica, la capacità di esprimere giudizi validi in modo sensibile
al contesto.
In
un’epoca di innovazioni tecnologiche è difficile fare previsioni che vadano
oltre una finestra di cinque anni. Immaginiamo che le menti più intelligenti
dell’epoca si siano riunite nel 1900 per prevedere come sarebbe stato il mondo
nel 1920. Alla luce di tutti i cambiamenti provocati dalla Prima guerra
mondiale, dobbiamo presumere che si sarebbero sbagliati clamorosamente.
Immaginate come nel 1920 le menti più intelligenti avrebbero previsto il mondo
del 1940, quelle del 1940 il mondo del 1960 e così via. Pensare a previsioni di
questo tipo è un’esperienza frustrante. Il futuro del lavoro è un argomento
molto sentito in questo periodo e probabilmente ci impegnerà molto prima
dell’ulteriore esplosione dell’intelligenza artificiale. La maggior parte degli
esperti ritiene che, come per le precedenti ondate di innovazione, i
cambiamenti sul luogo di lavoro modificheranno molte linee produttive e ne
elimineranno alcune - ma tutto sommato, una volta raggiunta la fine del tunnel,
le cose andranno meglio di adesso. L e persone lavoreranno meno e le
occupazioni che rimarranno appannaggio degli esseri umani saranno più
interessanti. Ma questa volta potrebbe essere diverso? Una risposta è che le
forme precedenti di creazione di ricchezza sono sempre dipese da un ampio
sottoproletariato economico. La proprietà della terra è redditizia solo se le
persone affittano la terra per lavorarci. La proprietà delle macchine è
redditizia solo se la gente compra gli oggetti che le macchine producono. Con
la creazione di ricchezza sempre più basata sul controllo dei dati, l’esistenza
di una tale sottoclasse economica potrebbe cessare di servire il suo scopo a
favore dei ricchi. Molti Paesi europei hanno un sistema di welfare tale da non
doversi preoccupare troppo di questo aspetto. Ma negli Stati Uniti la solidarietà
a livello sociale è poco sviluppata, e questi progressi, insieme alle guerre
culturali in corso, potrebbero spaccare il Paese.
Uno dei principali creatori e sostenitori della tecnologia nel Ventesimo secolo
è stato il matematico John von Neumann. Poco prima di morire, nel 1957,
pubblicò “Can We Survive Technology?”, un articolo in cui rifletteva – in
qualità di membro della Commissione statunitense per l’energia atomica – sul
mondo che la tecnologia stava creando e al cui inarrestabile progresso egli
aveva tanto contribuito. Von Neumann cominciava osservando che il nostro
Pianeta è ormai troppo piccolo per assorbire gran parte di ciò che potrebbe
andare storto con la diffusione della tecnologia e politicamente troppo
decentralizzato per gestire bene il suo avanzamento. E concludeva affermando
che tutto ciò che sappiamo con certezza è che per andare avanti abbiamo bisogno
di “pazienza, flessibilità e intelligenza”. E aveva ragione anche per la
situazione attuale di fronte all’Intelligenza artificiale.
Le
forme precedenti di creazione di ricchezza sono dipese da un ampio
sottoproletariato economico. Se ora è decisivo il controllo dei dati,
l’esistenza di una tale sottoclasse potrebbe cessare di servire il suo scopo a
favore dei ricchi.
www.avvenire.it
Nessun commento:
Posta un commento