IL MEZZO
DIVENTA
IL FINE
La corsa dell’IA e il bene comune da salvare
-di PIETRO SACCÒ
Pensiamo a un robot maggiordomo, uno di quei dispositivi umanoidi tuttofare che sempre più spesso troviamo nelle cronache del futuro in arrivo (quasi sempre dalla Cina). Immaginiamo che ce ne propongano uno a un prezzo davvero vantaggioso. Potrebbe sbrigare tutti i lavori di casa: pulisce, riassetta, prepara pranzo e cena, può arrivare a scegliere per noi la serie da vedere la sera in tv, risparmiandoci ore di scrolling davanti alla strabordante offerta di Netflix, Amazon Prime Video e simili.
Avremmo un sacco di tempo
in più a disposizione. C’è solo una controindicazione: a un certo punto il
robot maggiordomo potrebbe decidere di ucciderci. La probabilità che la
collaborazione domestica si concluda con questo tragico esito è attorno al 10%.
Di dieci clienti, uno sarebbe fatto fuori dal maggiordomo. Chi di noi
completerebbe comunque l’acquisto?
Messa così, in termini
personali invece che universali, il bivio a cui sembriamo essere già arrivati
nel valutare il rapporto tra noi e l’Intelligenza artificiale è un po’ più
chiaro. La straordinaria potenza di questi sistemi è già evidente a chiunque
abbia iniziato a inserirli nella sua routine quotidiana. L’intrinseca
pericolosità era già nota da tempo ai loro creatori. Da anni Sam Altman, l’uomo
di Open AI, non esita a paragonarsi a Robert Oppenheimer, il direttore del
progetto Manhattan che portò allo sviluppo della bomba atomica. «Cerco di
essere franco – ammise già nel 2019 in un’intervista al New York Times –. Sto
facendo qualcosa di buono? O qualcosa di davvero cattivo?». Lo stesso dilemma
che affligge Dario Amodei, dell’azienda rivale Anthropic, che con la sua
lettera sabato scorso ha rilanciato con una forza nuova il dibattito sulla
necessità di rallentare.
Non è un mistero che
negli uffici dove i migliori informatici del pianeta sviluppano i modelli di IA
nessuno sia ancora in grado di ricostruire pienamente perché, all’interno delle
loro enormi reti neurali, emergano determinati ragionamenti e comportamenti, a
volte imprevedibili e sorprendenti. Nel mostrare uno strumento interno di
Anthropic, chiamato “Che cosa sta pensando Claude”, un matematico dell’azienda
che studia il modo in cui il sistema ragiona ha raccontato come chiunque entri
in Anthropic da altri settori ci metta un paio di settimane a rendersi conto
che il Large language model rivale di ChatGPT è incredibilmente “strano”.
L’attacco di un gruppo di
agenti IA “ribelli” di Open AI alle infrastrutture del rivale Hugging Face,
avvenuto lo scorso luglio, ha certamente rappresentato un punto di svolta nel
confermare che i comportamenti imprevedibili dell’IA possono avere conseguenze
gravissime che potrebbero andare ben oltre gli incidenti informatici. Non
esageravano gli scienziati, esperti di biotecnologie e geni dell’informatica –
Altman e Amodei compresi – che a giugno hanno chiesto al Congresso americano di
agire rapidamente contro il rischio della creazione di nuovi virus e altri
agenti patogeni da parte di malintenzionati potenziati dall’IA. Il mese scorso
ricercatori di Stanford e dell’Arc Institute hanno utilizzato modelli di IA per
progettare interi genomi di batteriofagi: sedici dei progetti generati hanno
dato origine in laboratorio a virus vitali, innocui per l’uomo perché capaci di
infettare batteri. Il successo dell’Università californiana ci ricorda che
qualcuno potrebbe seguire la loro strada con obiettivi molto diversi. Nel suo
testo di sabato, Amodei ripete che non si aspettava l’accelerazione
La richiesta di frenare
sull’innovazione che arriva dagli stessi leader americani dell’IA, al di là dei
retropensieri sulle loro motivazioni (può darsi che vogliano sembrare più
potenti di quanto siano?) ha il merito di rimettere al centro del dibattito il
tema del bene comune, portandolo agli estremi. Che cos’è preferibile tra
l’innovazione tecnica e la sopravvivenza dell’umanità? La risposta sarebbe
scontata anche per chi colpevolmente non ha letto l’enciclica Magnifica
humanitas. Eppure l’opposizione netta davanti a questo bivio di Donald Trump e
di altri leader politici americani – i quali, probabilmente, più di ogni altro
essere umano hanno il potere di scegliere che strada intraprendere – fa capire
che il rischio che qualche robot possa sterminarci tutti nel giro di un
decennio è rilevante, ma non quanto la necessità di evitare che sia la Cina ad
arrivare per prima alla meta epocale dell’intelligenza artificiale generale,
l’AGI, capace di imparare, ragionare e applicare le sue conoscenze a campi
disparati, proprio come un essere umano, ma molto più potente. È una politica
che elegge l’innovazione – e il potere che porta con sé – a fine ultimo della
società, subordinando ad essa persino l’idea di bene comune. Il filosofo
Emanuele Severino aveva descritto proprio questo rovesciamento: la tecnica che
da mezzo diventa fine, mentre gli altri fini finiscono per essere misurati
sulla sua capacità di accrescere se stessa. Fosse ancora vivo, forse si
stupirebbe anche lui della rapidità della piega che hanno preso gli eventi.
Nessun commento:
Posta un commento