IL MEZZO o IL FINE ?

QUANDO 

IL MEZZO 

DIVENTA 

IL FINE

  

La corsa dell’IA e il bene comune da salvare

-di PIETRO SACCÒ

 Pensiamo a un robot maggiordomo, uno di quei dispositivi umanoidi tuttofare che sempre più spesso troviamo nelle cronache del futuro in arrivo (quasi sempre dalla Cina). Immaginiamo che ce ne propongano uno a un prezzo davvero vantaggioso. Potrebbe sbrigare tutti i lavori di casa: pulisce, riassetta, prepara pranzo e cena, può arrivare a scegliere per noi la serie da vedere la sera in tv, risparmiandoci ore di scrolling davanti alla strabordante offerta di Netflix, Amazon Prime Video e simili.

Avremmo un sacco di tempo in più a disposizione. C’è solo una controindicazione: a un certo punto il robot maggiordomo potrebbe decidere di ucciderci. La probabilità che la collaborazione domestica si concluda con questo tragico esito è attorno al 10%. Di dieci clienti, uno sarebbe fatto fuori dal maggiordomo. Chi di noi completerebbe comunque l’acquisto?

Messa così, in termini personali invece che universali, il bivio a cui sembriamo essere già arrivati nel valutare il rapporto tra noi e l’Intelligenza artificiale è un po’ più chiaro. La straordinaria potenza di questi sistemi è già evidente a chiunque abbia iniziato a inserirli nella sua routine quotidiana. L’intrinseca pericolosità era già nota da tempo ai loro creatori. Da anni Sam Altman, l’uomo di Open AI, non esita a paragonarsi a Robert Oppenheimer, il direttore del progetto Manhattan che portò allo sviluppo della bomba atomica. «Cerco di essere franco – ammise già nel 2019 in un’intervista al New York Times –. Sto facendo qualcosa di buono? O qualcosa di davvero cattivo?». Lo stesso dilemma che affligge Dario Amodei, dell’azienda rivale Anthropic, che con la sua lettera sabato scorso ha rilanciato con una forza nuova il dibattito sulla necessità di rallentare.

Non è un mistero che negli uffici dove i migliori informatici del pianeta sviluppano i modelli di IA nessuno sia ancora in grado di ricostruire pienamente perché, all’interno delle loro enormi reti neurali, emergano determinati ragionamenti e comportamenti, a volte imprevedibili e sorprendenti. Nel mostrare uno strumento interno di Anthropic, chiamato “Che cosa sta pensando Claude”, un matematico dell’azienda che studia il modo in cui il sistema ragiona ha raccontato come chiunque entri in Anthropic da altri settori ci metta un paio di settimane a rendersi conto che il Large language model rivale di ChatGPT è incredibilmente “strano”.

L’attacco di un gruppo di agenti IA “ribelli” di Open AI alle infrastrutture del rivale Hugging Face, avvenuto lo scorso luglio, ha certamente rappresentato un punto di svolta nel confermare che i comportamenti imprevedibili dell’IA possono avere conseguenze gravissime che potrebbero andare ben oltre gli incidenti informatici. Non esageravano gli scienziati, esperti di biotecnologie e geni dell’informatica – Altman e Amodei compresi – che a giugno hanno chiesto al Congresso americano di agire rapidamente contro il rischio della creazione di nuovi virus e altri agenti patogeni da parte di malintenzionati potenziati dall’IA. Il mese scorso ricercatori di Stanford e dell’Arc Institute hanno utilizzato modelli di IA per progettare interi genomi di batteriofagi: sedici dei progetti generati hanno dato origine in laboratorio a virus vitali, innocui per l’uomo perché capaci di infettare batteri. Il successo dell’Università californiana ci ricorda che qualcuno potrebbe seguire la loro strada con obiettivi molto diversi. Nel suo testo di sabato, Amodei ripete che non si aspettava l’accelerazione

La richiesta di frenare sull’innovazione che arriva dagli stessi leader americani dell’IA, al di là dei retropensieri sulle loro motivazioni (può darsi che vogliano sembrare più potenti di quanto siano?) ha il merito di rimettere al centro del dibattito il tema del bene comune, portandolo agli estremi. Che cos’è preferibile tra l’innovazione tecnica e la sopravvivenza dell’umanità? La risposta sarebbe scontata anche per chi colpevolmente non ha letto l’enciclica Magnifica humanitas. Eppure l’opposizione netta davanti a questo bivio di Donald Trump e di altri leader politici americani – i quali, probabilmente, più di ogni altro essere umano hanno il potere di scegliere che strada intraprendere – fa capire che il rischio che qualche robot possa sterminarci tutti nel giro di un decennio è rilevante, ma non quanto la necessità di evitare che sia la Cina ad arrivare per prima alla meta epocale dell’intelligenza artificiale generale, l’AGI, capace di imparare, ragionare e applicare le sue conoscenze a campi disparati, proprio come un essere umano, ma molto più potente. È una politica che elegge l’innovazione – e il potere che porta con sé – a fine ultimo della società, subordinando ad essa persino l’idea di bene comune. Il filosofo Emanuele Severino aveva descritto proprio questo rovesciamento: la tecnica che da mezzo diventa fine, mentre gli altri fini finiscono per essere misurati sulla sua capacità di accrescere se stessa. Fosse ancora vivo, forse si stupirebbe anche lui della rapidità della piega che hanno preso gli eventi.

www.avvenire.it

Immagine

IL TERRORE DELLA FINE

 

 'Solo la cura 

ci salva 

dal terrore

 della nostra fine'

 

 L’uomo è sempre impegnato a rimuovere il pensiero della morte e persino la guerra è una estremizzazione di questo tentativo vano

 Ma per non avere paura l’unico antidoto

 è una solidarietà più forte.

-         di Massimo Recalcati 

Nessun altro tempo come il nostro, dopo la tragedia immane della Seconda guerra mondiale, ha sollevato con così grande angoscia il tema della salvezza. Ne usciremo vivi? E come? Sono domande che ricorrono e che non smettiamo di porci dimenticandoci però che nessuno di noi ne potrà davvero uscire vivo. L’essere umano è, infatti, destinato a finire nella polvere dalla quale proviene. È una verità inappellabile che si trova pronunciata anche dal testo biblico per bocca di Qohèlet. 

Se anche ai conflitti più aspri e irragionevoli, alla precarietà e al disagio sociale, alla crisi economica si potrebbero trovare delle soluzioni possibili, resta il fatto inamovibile che nessuno potrà uscirne vivo da quaggiù: la polvere che noi siamo ritornerà irreversibilmente alla polvere. Il punto è che questa verità viene costantemente rimossa dagli esseri umani. 

Anzi si potrebbe dire che l’uomo non sia solo un animale mortale – cosciente, come tale, diversamente dagli altri animali, della necessità della sua fine -, ma che sia un animale mortale costantemente impegnato nella rimozione individuale e collettiva del reale della morte. Solo la malattia e la sofferenza gli ricordano questo reale dalla cui presa vorrebbe sfuggire o semplicemente dimenticare. Altrimenti gli esseri umani dedicano il loro tempo ad occultare questo trauma. Lo fanno inventando filosofie o religioni come se fossero dei rimedi, provando a distrarsi in ogni modo, nel divertissement di ogni genere, nel culto igienista del proprio corpo sempre in forma, nel rifarlo attraverso la chirurgia estetica per scongiurare i segni del suo decadimento, nelle passioni più diverse che sembra mettano tra parentesi, seppur momentaneamente, la nostra fine, nell’immaginare le voci nell’aldilà, nel sacrificarsi senza riserve per il proprio lavoro o per i propri ideali. Ma il modo più inverosimile e al tempo stesso drammaticamente più umano per stornare il pensiero della morte è quello dell’ammazzarsi reciprocamente. Può accadere per diverse ragioni. Per puro prestigio, per denaro, per sete di potere. La storia degli uomini è la storia delle loro continue guerre. 

Siamo solo una “masnada di assassini” dichiarava senza speranza Freud di fronte alla tragedia della Prima guerra mondiale. Nessuna vicenda come quella della guerra rivela la stoltezza più profonda dell’umano. La guerra sposta sul nemico l’angoscia collettiva di fronte alla nostra fine? Si tratterebbe, come teorizzava già Franco Fornari, del rigetto paranoico del lutto. Anziché confrontarsi con l’ineluttabilità della nostra morte si dà la morte a qualcun altro. E se provassimo invece a cambiare il nostro modo di vedere le cose? Se provassimo a vedere nel carattere inaggirabile della morte quello che ci unisce come umani non potremmo trovare proprio in questo trauma il fondamento più sincero di una possibile fratellanza o sorellanza? Non sarebbe questo il più vero magistero di Giobbe? Ricordiamo la sua vicenda. Egli è l’uomo giusto che il Dio biblico vuole mettere alla prova togliendogli tutto. La sua fede resisterà o sarà spazzata via lasciando il posto al risentimento e alla rivendicazione? Troppo facile credere che la rettitudine sia sempre premiata con la fortuna. 

Proviamo invece a smuovere le cose, pensa il suo Dio sollecitato dal demonio. Proviamo a vedere come l’uomo giusto reagisce di fronte alla perdita, alla malattia e alla caduta. 

Proviamo a vedere cosa accade se ogni forma di giustizia retributiva venisse scossa alle sue fondamenta. La fede può resistere di fronte all’ingiustizia e all’insensatezza del dolore? Ma se davvero provassimo a prendere sul serio la lezione di Giobbe non ci perderemmo nella lotta fratricida dell’uno contro l’altro, se ci ricordassimo insieme a lui della polvere che portiamo nella nostra carne non rigonfieremmo il petto della superbia e dell’insulto, della aggressione e della costante imputazione rivolta verso l’altro. Se ci ricordassimo di Giobbe potremmo trovare forse davvero una via di salvezza. Non quella che rimuove la morte ma, al contrario, quella che il riconoscimento della nostra morte potrebbe rendere possibile. 

Si rilegga in questa luce anche La peste di Camus. In gioco non è come ritenne ingiustamente Sartre nella sua lettura una “morale da crocerossina”, ma un’etica della misericordia che riguarda il riconoscimento di chi cade come nostro fratello e nostra sorella. Il disprezzo aristocratico nei confronti di quest’etica non considera che la nostra destinazione mortale ci rende tutti bisognosi di cura, che senza la presenza dell’altro saremmo già polvere ancora prima di morire. Lo dichiara ancora una volta Qohelet: «guai a chi cade ed è solo!». Se tutto è un “soffio”, se la vita è una breve corsa sotto al sole, non dovremmo credere meno alla guerra? Se riconoscessimo davvero il nostro comune destino mortale potremmo davvero essere fratelli e sorelle. Mentre la pulsione di morte che domina la spinta alla guerra conduce verso la distruzione di ogni legame nel nome dell’Uno contro l’Altro, ricordarsi della nostra polvere dovrebbe mostrarci quanto la nostra vita dipenda dall’esistenza di questi legami, quanto il tempo sempre breve che ci resta da vivere meriterebbe di essere dedicato a qualcosa di più grande che non alla spinta a distruggere. Di fronte alla tragedia della peste gli uomini descritti da Camus si riconoscono fratelli e sorelle rispetto all’assurdità del male che li colpisce. Solo non dimenticare la nostra polvere potrebbe salvarci se non dalla morte almeno dall’orrore dalla guerra di tutti contro tutti. 

La Repubblica 

Alzogliocchiversoilcielo

Immagine