SENSO COMUNE e INTELLIGENZA ARTIFICIALE

 Il senso comune 

non abita in ChatGpt

L’impossibilità per i sistemi di IA di accedere al significato di quanto elaborano li rendi “disumani”.  L’alienazione di chi li deve addestrare acuisce il problema.

 Alla macchina manca il corpo, dunque il suo apprendimento si basa soltanto sulle parole.  Per ovviare a ciò non basta aumentare la quantità di testi, specialmente se sono generati da altri programmi IA

 

-         di VINCENZO AMBRIOLA

 «Papà, cos’è un sicomoro? » Molti di noi non saprebbero rispondere a questa domanda. Forse qualcuno sa che è un albero, per il passo evangelico di Zaccheo. E poi per aver letto L’ombra del sicomoro di John Grisham. I più cool potrebbero ricordarsi di Down by the sycamore tree, uno famoso brano jazz di Stan Getz. Ma quanti sarebbero in grado di riconoscere un sicomoro in un orto botanico? Nella nostra mente le parole sono collegate sia a esperienze vissute nel mondo reale tramite i cinque sensi che ad altre parole, in quella che costituisce un’enorme rete semantica gestita da miliardi di neuroni e sinapsi che li collegano. La parola sicomoro, se presente in questa rete, potrebbe essere collegata ai concetti di albero, libro o jazz. Ecco perché sapremmo rispondere a una bambina curiosa.

 L’intelligenza artificiale generativa, quella che sta alla base del funzionamento di ChatGpt e di tanti altri sistemi simili, funziona collegando le parole tra loro, con una fase di addestramento che richiede un’enorme quantità di testi. Le parole sono analizzate nelle frasi in cui compaiono, calcolando la probabilità che siano associate ad altre parole. Quando l’utente dialoga con il sistema di intelligenza artificiale, la risposta viene costruita usando la rete neurale presente al suo interno, parola dopo parola secondo un procedimento che usa anche un po’ di casualità. Formulata in due istanti diversi, la stessa domanda può dar luogo a una risposta diversa. La sostanziale differenza che esiste tra questi sistemi e la mente umana è l’assenza di informazioni che provengono dalla realtà e la totale dipendenza dalle parole usate durante il loro apprendimento. Praticamente è una conoscenza a-sensoriale combinata con una manipolazione delle parole (trattate come simboli astratti) prevalentemente statistica. L’interazione con la realtà è quindi ciò che caratterizza noi umani e che trasforma un continuo flusso informativo in conoscenza, codificata verbalmente. Gran parte di questa conoscenza costituisce il “senso comune”, un patrimonio trasmesso di generazione in generazione che ci consente di sopravvivere nell’ambiente che ci circonda e di interagire con gli altri esseri umani, condividendo il senso profondo delle parole. Parole che per noi non sono solo simboli, ma marcatori semantici della realtà. Da sempre il senso comune è stato ed è oggetto di studio e di ricerca. Lo sviluppo dell’informatica è strettamente legato ai tanti modi possibili di catturarlo e rappresentarlo nelle cosiddette ontologie e di usarlo nei sistemi di ragionamento automatico deduttivo, induttivo e abduttivo. Dai tempi di Aristotele, la logica rappresenta la massima sfida concettuale per l’umanità.

 «Possiamo sapere più di quanto possiamo dire», così scriveva Michael Polanyi nel saggio La conoscenza inespressa del 1966, in cui presentava la sua ricerca sulla conoscenza implicita o tacita. In un periodo fortemente influenzato da un approccio razionalista, dalla nascita dei calcolatori elettronici e dalle idee di Alan Turing, Polanyi metteva in discussione la possibilità che un essere umano potesse avere un completo ed esplicito controllo di tutto ciò che conosceva. Una posizione forte e ortodossa, che rigettava il progetto di codificare formalmente la conoscenza per poi usarla in un ambito computazionale.

 I sistemi di intelligenza artificiale generativa non possiedono l’equivalente del senso comune né, tantomeno, una conoscenza implicita di ciò che hanno imparato. A loro il senso comune non servirebbe per la sopravvivenza e, soprattutto, non può essere acquisito mediante un apparato sensoriale di cui sono privi. Imparano solo mediante le parole usate nella fase di addestramento e interagiscono con gli umani solo mediante queste parole. Non sono in grado di farci commuovere con uno sguardo o tranquillizzarci con una carezza. Per fare ciò dovrebbero avere un corpo, ma allora sarebbero dei robot e non dei bot conversazionali. In un recente articolo, Christopher Richardson e Larry Heck descrivono lo stato dell’arte dei progetti di ricerca che hanno l’obiettivo di aggiungere il senso comune nei sistemi di intelligenza artificiale generativa. La conclusio-ne, negativa, di questo studio non lascia dubbi quando afferma che «gli attuali sistemi esibiscono limitate capacità di ragionamento basato sul senso comune ed effetti negativi sulle interazioni naturali». Addestrare un sistema IA usando una grande quantità di testi non è sufficiente. La rete neurale al suo interno può essere confusa da relazioni tra parole che producono risposte senza alcun senso (comune), chiamate anche allucinazioni. Si rende necessaria un’ulteriore attività di addestramento. In numerose parti del mondo (Kenya, Nepal, Malesia, Filippine, India), centinaia di migliaia di individui passano la loro giornata davanti allo schermo di un computer, interagendo con il sistema, correggendo le sue risposte, identificando le allucinazioni. Un lavoro noioso e ripetitivo, spesso sottopagato e ai limiti della sopravvivenza economica. Nel 2007, Fei Fei Li, allora professoressa a Princeton ed esperta in IA, dichiarò che per migliorare la qualità del riconoscimento delle immagini sarebbe stato necessario etichettarne manualmente milioni e non qualche decine di migliaia. Aveva ragione e la sua strategia ha causato una nuova primavera per l’intelligenza artificiale.

 La natura dell’uomo vuole la persona al controllo delle macchine e non assoggettata al loro dominio. Un gruppo di ricercatori della Rice University ha recentemente scoperto che gli umani incaricati di addestrare i sistemi IA, per alleggerire un procedimento operativo ripetitivo e noioso, utilizzano, però, proprio questi stessi sistemi, violando in un certo senso le indicazioni ricevute. In pratica, le indicazioni fornite dagli addestratori sono generate “sinteticamente” dai sistemi che loro stessi stanno addestrando, in ciò che metaforicamente possiamo chiamare un “incesto informatico” che potrebbe lentamente degradare la qualità della rete neurale addestrata. Lo stesso problema si incontra quando si crea un nuovo sistema IA, utilizzando testi provenienti da internet, sempre più generati da altri sistemi AI.

 L’intelligenza artificiale generativa è ancora nella sua primissima infanzia e, come tale, è destinata a crescere ed evolvere. L’addestramento basato su testi prodotti da umani la rende inevitabilmente simile all’uomo. L’enorme potenza di calcolo ce la fa percepire come sovrumana, quando ad esempio riesce a svolgere compiti che per noi sarebbero inconcepibili in termini di quantità di calcoli. L’assenza di senso comune ne rivela, tuttavia, l’intrinseca e inevitabile disumanità. Al momento attuale l’ipotesi più probabile è che l’AI diventi sempre più sovrumana (aumento della conoscenza e delle prestazioni) ma anche sempre meno disumana (evoluzione degli algoritmi, gestione del senso). Sullo sfondo resta l’ipotesi che a un certo punto possa emergere una qualche forma di coscienza artificiale che la renderebbe addirittura autonoma.

 www.avvenire.it

 

RIPENSARE IL SENSO COMUNE

 «Ritrovare la sintonia 

con i ritmi del vivente»

 

Parla il filosofo franco-argentino Miguel Benasayag. Nel suo ultimo libro ha messo al centro l’esigenza di un ritorno dell’uomo dall’esilio dalla natura prodotto dalla ratio cartesiana. «Va attivata un’estetica dei cicli della vita, i quali custodiscono fragilità e il negativo, attraverso esperienze concrete»

 

-         di SIMONE PALIAGA

-          

«Assumere la nostra appartenenza al vivente e al campo biologico implica il fatto di riconoscere che ciascuno dei nostri atti si inscrive in una complessità che non possiamo dominare né orientare a nostro piacimento», ammonisce il filosofo e psicoanalista, oggi parigino ma originario dell’Argentina, Miguel Benasayag nel libro, scritto a quattro mani con il giornalista e storico Bastien Cany, Il ritorno dall’esilio. Ripensare il senso comune, appena pubblicato da Vita e Pensiero (pagine 136, euro 16,00).

A quale esilio allude il titolo del suo libro, professore?

Si tratta naturalmente di un esilio immaginario, con conseguenze reali però. Quando parlo di esilio intendo l’esilio promosso da Cartesio, vale a dire l’esilio dell’uomo dalla natura di cui, peraltro, si considera padrone e possessore. Occorre precisare però, a differenza di quanto auspicato dal progetto moderno, che l’uomo in realtà non si è mai separato da essa, ma il suo esilio immaginario ha avuto conseguenze su di lui. Questo modo cartesiano di abitare il mondo ha trovato al giorno d’oggi la sua acme. Mai come ora il massimo di produzione genera il massimo di distruzione. Si tratta di una situazione non più sostenibile. Per questo quasi tutti oramai sostengono che l’uomo appartiene alla natura. Il sentirsi parte di essa è una sfida che non deve ridursi al solo rispetto ma bisogna imparare a coabitarla. Non è un caso che i giuristi oggigiorno riconoscano gli animali, i fiumi, le foreste come soggetti di diritto. Accade perché l’uomo non può più pensarsi da solo e isolato.

Accanto però all’esilio di cui parla oggi emerge quello che nasce dall’uso eccessivo di piattaforme e social network...

In effetti l’esilio è la rottura del legame, che è ciò che ci costituisce. L’essere umano. separandosi dalla natura e dagli altri per l’uso di app, smartphone, social network, ha perduto anche se stesso. Non sono tecnofobo e penso che la rete sia comoda ma la comodità, per il vivente, rischia di tradursi in una trappola. In Africa, per allontanare le formiche dalle proprie abitazioni, si cospargono di zucchero le vicinanze del formicaio. Le formiche però, dopo i primi momenti, anziché rimanere dove c’è abbondanza di zucchero si avventurano più lontano per cercarne altro. Non si accontentano dei comfort. Sanno che è pericoloso per il vivente abbandonarsi alla comodità perché impedisce l’esplorazione del possibile. E quello che avviene sul web, quando si naviga alla ricerca di informazioni, non è esplorazione perché non c’è esperienza.

Perché oggi l’uomo incontra così tanta difficoltà a pensare un futuro e dei possibili praticabili?

All’acronimo Tina, there is not alternative, non dobbiamo rispondere proponendo un’alternativa animata da un progetto politico come in passato è stato il comunismo.

Può spiegare questa idea?

Dobbiamo riflettere sul futuro che, in passato era considerato una promessa oggi invece è una minaccia. È importante che il futuro si pensi come una possibilità del presente e liberarlo dal giogo dell’istantaneità. Va pensato insieme al possibile e non considerarlo solo come uno sviluppo lineare del presente. Solo così è possibile riconoscere che la vita è la trascendenza dentro l’immanenza, o, per dirla diversamente, vivere significa riconoscere l’irreversibile dentro l’effimero e cercare qualcosa oltre l’effimero.

Sembra il sogno dei transumanisti...

Tutt’altro. Occorre rifiutare la trascendenza che la macchina ci offre e che i transumanisti rilanciano agitando davanti gli occhi il miraggio dei cyborg. Dobbiamo ritrovare la familiarità con il fragile e l’effimero e non espellere il negativo dalla vita come la modernità ha tentato di fare. Occorre attivare un’estetica per desiderare i cicli della vita, che custodiscono anche fragilità e il negativo, attraverso esperienze concrete, locali e situate. Le semplici esperienze morali non bastano.

E i riti di cui parla aiutano in questo?

I riti corrispondono ai ritmi del vivente e ai ritmi tellurici. La rapidità delle macchine ha schiacciato il vivente intaccando i suoi ritmi. Ne siamo così condizionati al punto che per noi è impossibile seguire la cerimonia del tè come avviene in Giappone. Spendere due ore per bere l’infuso per gli occidentali è troppo. Come la macchina abbia attaccato i ritmi del vivente lo si riscontra in ambito psichiatrico, dove molti pazienti sono affetti da patologie dovute al fatto che loro funzionano troppo bene ma a scapito dell’esistere.

Reputa che il senso comune sia una via d’uscita da questa situazione?

Per senso comune intendo tutti i saper fare che sono in sintonia con i ritmi del vivente. Sono i saper fare che non possono essere sistematizzati e razionalizzati e nascono dalle esperienze e non dagli esperimenti. Il problema è che l’Occidente ha contrapposto, a differenza di altre civiltà, il senso comune alla razionalità. E in Occidente, alla fine, questa ha soffocato l’esperienza staccandosi dalla realtà. Non dico che si debba tornare al passato ma come Goethe, quando parla del passaggio dall’alchimia alla chimica, credo che sia importante accogliere i contributi della chimica senza però dimenticare gli apporti dell’alchimia. Da qui il nostro compito di riattivare il senso comune come esperienza.

Come farlo?

Intanto occorre promuovere degli atelier sociali locali e situati che aiutino a ricreare un rapporto di legame con la natura e con l’esperienza rompendo così con l’esilio di cui si parlava all’inizio. Un ruolo importante poi lo può giocare la scuola purché resista alla pedagogia delle competenze oggi tanto di moda perché non sono altro che un sapere utile all’industria e al commercio.

E cosa deve fare?

La scuola deve coltivare il tempo dell’inutile e il gusto dell’esplorazione. I bambini non possono conoscere le piante esplorando il web, ma devono farne esperienza in giardino. Per riattivare il senso comune la scuola deve resistere all’idea che gli uomini siano sempre in difetto di qualcosa, sempre in una condizione di mancanza. Non si tratta di modificare se stessi ma di insegnare ai bimbi a esplorare il proprio possibile. A scuola occorre imparare a esistere e non a funzionare, consapevoli che le competenze possono essere sviluppate solo se un bambino è prima strutturato. L’educazione vale se è in grado di renderlo capace di abitare la propria vita, convincendolo che non deve cercare di essere qualcuno perché è già qualcuno.

 

www.avvenire.it