CAMBIAMENTO

 

Cambiamento:

 parola giusta

 per noi

Un viaggio nelle parole delle nuove generazioni, 

per capire cosa ci rivelano del nostro mondo

I giovani, la nave di Teseo e ChatGPT

Per gli adulti cambiare è una promessa o una minaccia; per i ragazzi è l’esperienza quotidiana attraverso cui prendono forma cercando se stessi.

Con questa serie di articoli, Luigi Ballerini, scrittore per ragazzi e medico psicoterapeuta, ci accompagna in un viaggio nelle parole dei giovani per provare a capire che cosa rivelano, a noi adulti, del loro mondo. Il lemma che commentiamo oggi è tratto dal «Piccolo Dizionario (immaginario) delle ragazze e dei ragazzi – Terza Edizione». Un progetto promosso e realizzato da Fondazione Pordenonelegge con la collaborazione della Fondazione Treccani Cultura e la partecipazione dell’Istituto Toniolo e di Parole Ostili, sotto l’egida di Pordenone Capitale della Cultura 2027 e dedicato alle ragazze e ai ragazzi di tutte le scuole secondarie di I grado d’Italia.

-         di LUIGI BALLERINI

La parola cambiamento compare spesso nei discorsi degli adulti. La utilizziamo per parlare della società, della tecnologia, della politica, del lavoro, la invochiamo come una promessa oppure la temiamo come una minaccia. Talvolta la trasformiamo addirittura in un valore assoluto. Le ragazze e i ragazzi che hanno scritto questa definizione, invece, la riportano dentro l’esperienza concreta del vivere. «È la parola giusta per noi», scrivono. In poche parole stanno definendo se stessi. Il cambiamento rappresenta una delle esperienze più tipiche della condizione giovanile, tanto da costituirne quasi il tratto distintivo. Essere giovani significa effettivamente attraversare trasformazioni continue, svegliarsi ogni giorno e scoprire che qualcosa è diverso, nel proprio corpo come nei propri pensieri. E anche negli altri. P er un adulto l’identità tende a coincidere con una certa stabilità. Abbiamo una storia, una professione, un carattere relativamente consolidato; possiamo fare affidamento su elementi che tendono a permanere nel tempo. Per una ragazza o un ragazzo l’identità si presenta invece come un percorso e ciò che conta è il divenire. 

Accade però il paradosso che per cambiare occorre conservare qualcosa di sé. È una questione antica: già Plutarco raccontava che gli Ateniesi conservarono per secoli la nave di Teseo sostituendone, una dopo l’altra, le tavole che il tempo deteriorava. Alla fine dell’imbarcazione originaria non rimase più nulla. Era ancora la stessa nave? Da allora questa domanda, che riguarda anche ciascuno di noi, è rimasta viva. Crescere significa cambiare profondamente, sostituire idee, abitudini, desideri, modi di guardare il mondo. Eppure continuiamo a riconoscerci come la stessa persona. L’identità potrebbe consistere proprio nel custodire un filo di continuità attraverso tutti i cambiamenti. Ogni trasformazione autentica richiede di tenere insieme trasformazione e permanenza. Si aggiungono esperienze, si correggono errori, si acquisiscono competenze, si modificano convinzioni e abitudini, mentre continua a esserci un soggetto che cerca e mantiene la sua unità. Il cambiamento può risultare faticoso proprio perché richiede di integrare il nuovo nella propria storia senza perdere il legame con la persona che si è stati fino a quel momento.

Crescere, ci dicono i ragazzi, significa restare in una condizione di continua revisione di sé. Il corpo cambia. Cambiano i gusti, le amicizie, le domande, le idee sul mondo. Cambia il rapporto con i genitori e quello con gli insegnanti. Cambia anche il modo di guardare se stessi. Ed è un lavoro veramente impegnativo, che può trascinarsi dietro paure, incertezze e angosce; dovremmo ricordarcene noi che ci siamo già passati. Qui emerge una lucida consapevolezza, significativa per chi vive in una cultura che celebra continuamente il cambiamento, l’innovazione, la trasformazione, la reinvenzione, l’aggiornamento, tanto che cambiare sembra coincidere automaticamente con migliorare. I ragazzi mostrano una percezione più articolata della questione, indicano che ogni cambiamento comporta un costo. È un richiamo utile anche per noi adulti, spesso tentati di trasformare il cambiamento in un valore assoluto. Le trasformazioni, invece, chiedono sempre di essere valutate nei loro effetti e nelle loro conseguenze, ma anche, e forse soprattutto, nelle loro origini. La domanda decisiva non è infatti se si cambia, perché il cambiamento accade comunque, a ogni età, ma come?

È un po’ come quando impostiamo un navigatore. Il fatto che l’automobile si muova non dice ancora nulla sulla bontà ed efficacia del nostro viaggio. Possiamo percorrere centinaia di chilometri e allontanarci dalla meta, se abbiamo sbagliato destinazione. Il movimento, da solo, non basta. Ciò che conta è la direzione. Si può infatti cambiare in meglio o in peggio. Si può, ad esempio, diventare più capaci di stare con gli altri o più chiusi e più soli. È un punto di prudenza che meriterebbe maggiore attenzione nel dibattito contemporaneo in cui spesso ci ritroviamo a celebrare la novità per il solo fatto che è nuova. Il cambiamento, preso in sé, non possiede alcun valore morale. Diventa interessante quando si comprende da dove origina, dove conduce e quali effetti produce sulla vita delle persone. C’è poi un ultimo aspetto che merita attenzione: dopo aver parlato di se stessi, le ragazze e i ragazzi allargano improvvisamente lo sguardo al mondo. Citano infatti l’Intelligenza artificiale e il cambiamento che essa sta producendo nel modo di studiare. 

In questo passaggio brevissimo mostrano la consapevolezza di quanto la loro crescita personale si intrecci con una trasformazione storica e sociale più ampia. L’esempio scelto è particolarmente interessante perché riguarda proprio la conoscenza dato che l’Intelligenza artificiale modifica il modo di studiare, di cercare informazioni, di produrre contenuti, di apprendere. Colpisce soprattutto quel riferimento al loro “amato” ChatGPT. È difficile non leggere nelle virgolette una sottile ironia, accompagnata forse anche una certa ambivalenza. Che siano consapevoli di quanto l’Intelligenza artificiale sia insieme una possibilità e una questione aperta? Essa infatti pone una serie di nuove domande rispetto al significato dello studio, al valore della fatica, al ruolo della memoria e alla costruzione personale del sapere. Sta a noi adulti aiutarli a formulare sempre meglio questo giudizio, uscendo dalla cristallizzazione della spaccatura fra tecno-entusiasti e tecno-apoca-littici. Chi governa questi strumenti? Chi decide come funzionano? Chi possiede gli algoritmi, i dati e le infrastrutture che rendono possibile l’Intelligenza artificiale?

Nella recente enciclica Magnifica humanitas, papa Leone XIV richiama, fra le altre cose, proprio il rischio di una crescente concentrazione di potere nelle mani di pochi soggetti privati capaci di influenzare in profondità la vita collettiva. Questa riflessione dialoga sorprendentemente con il tema del cambiamento. Ogni innovazione modifica infatti oltre ciò che facciamo, anche i rapporti di forza, le possibilità di accesso al sapere, le forme della partecipazione sociale e della libertà. I ragazzi qui non formulano alcun giudizio definitivo, non celebrano l’intelligenza artificiale come una rivoluzione salvifica e non la descrivono nemmeno come una minaccia assoluta. La registrano come un fatto già entrato nella loro esperienza quotidiana e capace di modificare abitudini consolidate, senza rinunciare a quella sfumatura affettuosamente ironica racchiusa nell’aggettivo “amato”. 

Anche il cambiamento tecnologico, dunque, conferma l’intuizione che attraversa tutta la definizione. La questione decisiva è il giudizio che siamo capaci di esercitare su di esso. Ecco che cosa i ragazzi ci stanno dicendo: il cambiamento è una condizione inevitabile della vita, cui nessuno può sottrarsi, ma la vera questione riguarda la sua direzione. Occorre sempre chiederci dove stiamo andando, che cosa stiamo diventando, quale beneficio stiamo ricavando dalle trasformazioni che favoriamo o semplicemente subiamo. In fondo crescere e progredire implica dare una direzione al cambiamento. E dovremmo essere grati a loro, che sperimentandolo ogni giorno, più di tutti ce lo ricordano.

*Scrittore per ragazzi e Medico Psicoterapeuta

www.avvenire.it

Immagine

 

L'INTELLIGENZA, UN MISTERO

DENTRO

IL MISTERO

 DELL'INTELLIGENZA

La vera intelligenza non è algoritmica 

ma è la capacità di comprendere, 

cioè di intus-legere, di capire in profondità, 

di essere aperti all’inatteso

 e di trovare connessioni tra scibili diversi. 

Nell’era dell’IA, una riflessione tra persona,

 responsabilità ed educazione.

- di Elena Beccalli

Per entrare nel mistero dell’intelligenza, vorrei partire dalla definizione che si trova nel dizionario Treccani: «Quel complesso di facoltà psichiche e mentali che consentono all’uomo di pensare, comprendere o spiegare i fatti o le azioni, elaborare modelli astratti della realtà, intendere e farsi intendere dagli altri, giudicare, e lo rendono insieme capace di adattarsi a situazioni nuove e di modificare la situazione stessa quando questa presenta ostacoli all’adattamento». Questa definizione di intelligenza è indubbiamente riferita a quella umana. Tuttavia, negli ultimi decenni ci troviamo a fare i conti con un altro tipo di cosiddetta “intelligenza”, quella artificiale. Coniato nel 1955 da John McCarthy, il termine indica «la teoria e lo sviluppo di sistemi informatici in grado di eseguire compiti che normalmente richiedono intelligenza umana» (English Oxford Living Dictionary), come ad esempio language processing, machine learning e machine vision.

Ma che cosa è l’intelligenza dell’intelligenza artificiale (IA)? Per spiegarlo riprendo Ciro De Florio («Vita e Pensiero», 2023, 2), che richiama due tra i numerosi approcci a questo tema. Il primo è caratterizzare l’intelligenza facendo leva sulla capacità di elaborazione dell’informazione per un adattamento massivo all’ambiente circostante. Una seconda strada è quella dell’intuizione controfattuale: l’IA permette di costruire macchine che eseguono compiti tali che, se fossero effettuati da esseri umani, richiederebbero intelligenza. In questa diffusa definizione, l’assunzione filosofica è profonda: in sostanza, facciamo esperienza di un solo tipo di intelligenza, cioè quella umana.

Ora siamo nella fase di un ulteriore sviluppo dell’intelligenza artificiale, quella generativa, come ChatGpt. Un’evoluzione che sembra avvicinarci al sogno di Alan Turing, quello, cioè, di costruire una macchina in grado di ingannare gli esseri umani circa la sua natura. Ma cosa manca all’intelligenza artificiale rispetto a quella umana? Per rispondere a questa domanda può essere d’aiuto immediato l’aforisma che Fritz Lang aveva posto già nel 1927 nel film Metropolis a proposito del rapporto uomo-macchina: «Il mediatore fra testa e mani dev’essere il cuore!». La distanza dell’intelligenza artificiale da quella umana, dunque, risulta siderale e a fare la differenza è quell’assenza della “sapienza del cuore”, di cui parla papa Francesco nell’ultima lettera enciclica Dilexit nos.

L’inventore del microprocessore Federico Faggin mette ben a fuoco questa distanza siderale tra intelligenza umana e quella artificiale, quando afferma che la creatività, l’etica, il libero arbitrio possono venire solo dalla coscienza e non dalla macchina (Irriducibile, Mondadori, 2022). Secondo Faggin, i computer sono macchine deterministiche classiche, in contrasto con gli organismi viventi, che sono sia quantistici sia classici. Questi ultimi sono quindi più complessi dei microchip perché possono ospitare la coscienza e il libero arbitrio.

La vera intelligenza non è algoritmica ma è la capacità di comprendere, cioè di intus-legere, ossia di leggere dentro, di capire in profondità, di essere aperti all’inatteso e di trovare connessioni insospettate tra scibili diversi. E capire non è riconducibile a un algoritmo, come spiega Lorenzo Magnani in un suo saggio in cui ha esplorato la relazione tra macchine computazionali e creatività umana («Polyedrum», 2024). Pertanto, per fronteggiare le domande che ci pone la macchina dobbiamo partire dalla comprensione profonda della natura umana.

VITA E PENSIERO

Immagine

 

INTELLIGENZA ARTIFICIALE GENERATIVA

 L’«Intelligenza artificiale generativa» 

e il nostro futuro

- di  Ferenc Patsch *

Una urgente necessità di regolamentazione

Guardandola da un secolo futuro, la nostra epoca sarà probabilmente ricordata come quella della nascita[1] della cosiddetta «intelligenza artificiale generativa»[2]. Sebbene sia impossibile giudicare i processi attuali (a causa della mancanza di distanza storica), tutti i segnali indicano che stiamo vivendo la fase iniziale di una rivoluzione informatica e tecnologica che ha lanciato l’«intelligenza» delle macchine. Molti si chiedono cosa ci riserverà il futuro in questo senso. Di recente siamo stati costretti a imparare alcuni termini nuovi, come «algoritmo», «apprendimento automatico» (machine learning) o, più recentemente, «modelli linguistici di grandi dimensioni» (large language models), ma questo è solo l’inizio. Le nuove tecnologie stanno già trasformando le nostre vite vorticosamente e gli esperti dicono che esse hanno in serbo altre incredibili potenzialità.

Naturalmente, si parla sempre più spesso anche dei pericoli, alcuni dei quali, purtroppo, sono divenuti ben familiari in relazione ai social media: dipendenza, disinformazione, salute mentale, polarizzazione, censura ecc.[3]. Hanno ragione coloro che accolgono con entusiasmo i cambiamenti recenti o coloro che fanno previsioni apocalittiche e distopiche? È difficile orientarsi in una gamma così ampia di opinioni. In questo articolo, tuttavia, cercheremo – anche se si tratta di un’impresa ben ardua – di fornire alcuni punti di riferimento per aiutare il lettore a orientarsi. Ora che la mania di ChatGPT, di cui si parlerà più avanti, si è un po’ placata [4], è possibile fare una riflessione più equilibrata su questa vexata quaestio.

La tecnologia «smart» come arma a doppio taglio

Per capire meglio l’«intelligenza artificiale generativa», partiamo da più lontano. Ecco un esperimento di pensiero. Cosa avremmo pensato se un viaggiatore nel tempo, tornato dal futuro negli anni Settanta, avesse fatto la seguente previsione: presto ci sarà a disposizione un dispositivo di nuova invenzione che permetterà a gran parte dell’umanità di comunicare in modo rapido ed efficace, indipendentemente dalla distanza fisica, e di cooperare tra le persone [5]? Con questo apparecchio avremo accesso a quasi tutte le conoscenze dell’umanità e saremo in grado di recuperare quasi istantaneamente una grande quantità di informazioni (dati, musica, film, gran parte dei libri, dei giornali e degli articoli pubblicati ecc.). Sarà anche possibile tradurre qualsiasi testo in qualsiasi lingua in pochi secondi. Ebbene, oggi abbiamo questo strumento: è a disposizione di ciascuno di noi. I professionisti – e gli onesti scrittori di fantascienza – di solito confessano di aver sognato una cosa del genere, ma di aver pensato che ci sarebbe voluto molto più tempo per ottenerla.

Di fatto, abbiamo cognizione di quasi tutti gli elementi dell’intelligenza artificiale da 40-50 anni, eppure ora abbiamo una conoscenza tecnica nuovissima, non ipotizzabile cinquant’anni fa: come gli stessi algoritmi avrebbero potuto funzionare su macchine 10 milioni di volte più veloci. Stiamo solo iniziando a vedere l’impatto che questo nuovo strumento ha sull’istruzione (sviluppo dei bambini, ricerca scientifica, cambio dei valori), sulla cultura (giornalismo sociale, canali di comunicazione), sulla politica (discorso democratico, elezioni), sull’economia (marketing, Pil) e, non da ultimo, sulla nostra vita spirituale.

I progressi della tecnologia digitale costituiscono tutti una buona notizia? Purtroppo, come sarà sempre più evidente, non è così; c’è, indubbiamente, anche un lato negativo. Se, ad esempio, negli anni Settanta quello stesso viaggiatore nel tempo di cui sopra ci avesse detto anche che questo magico dispositivo avrebbe causato la difficoltà dei rapporti e la distrazione dei nostri figli; che alcune semplici app – chiamate «social media» – avrebbero causato un acuto disagio emotivo negli adolescenti e che la popolazione adulta avrebbe corso il rischio di un disordine da deficit di attenzione e di problemi di stress e di sonno [6], saremmo stati altrettanto entusiasti? È vero che abbiamo perfezionato il concetto pascaliano di divertissement, ma, secondo gli studiosi, i cambiamenti che abbiamo già apportato rischiano di toglierci il senso della vita e la capacità di goderne [7], per non parlare del rapporto con Dio, della preghiera e della contemplazione [8].

E se il nostro viaggiatore nel tempo ci avesse avvertito anche che le nuove tecnologie ci avrebbero resi vulnerabili alla manipolazione e alla raccolta illegale di dati (perché il misterioso dispositivo conosce i numeri delle nostre carte di credito, legge la nostra posta elettronica, tiene traccia delle nostre coordinate geografiche, e persino conta i nostri passi quotidiani, se glielo chiediamo)? Chi avrebbe immaginato che l’invenzione più potente del nostro tempo, i social media, ci avrebbe intrappolato in una «bolla» di comunicazione – una echo chamber – in cui sentiamo solo chi ha le nostre stesse opinioni, aumentando così le divisioni sociali a livelli senza precedenti? Di fatto, il dispositivo che chiamiamo smartphone ha avuto un effetto molto ambiguo: ci ha connesso a una rete di informazioni globale, da cui ora noi sembriamo essere intrappolati. Con il suo utilizzo siamo globalizzati più che mai nella storia dell’umanità, ma, nello stesso tempo, siamo anche solitari. Questo dispositivo ha risvegliato i peggiori demoni della nostra anima (pornografia, violenza), ed è così difficile separarsene che ha causato una vera e propria epidemia di dipendenza [9]. Abbiamo allora ancora voglia di festeggiare?

Ma c’è di più. Tutti i segnali indicano che siamo solo all’inizio di questa storia di trasformazione. Infatti, i social media, responsabili di gran parte dei disagi sopramenzionati, funzionavano ancora con strumenti estremamente primitivi rispetto a quelli recenti. In sostanza, la loro magia consisteva nel fatto che i motori di ricerca erano programmati per consigliare articoli di notizie o video di YouTube in base agli interessi e ai clic precedenti degli utenti (registrati anche senza il loro consenso). Ma già questi metodi primitivi hanno dato loro un potere incredibile: non solo ci hanno tenuti davanti ai nostri schermi, rubandoci anche il sonno[10], ma hanno manipolato le nostre opinioni, polarizzato il nostro discorso politico, minato la nostra salute mentale e destabilizzato le nostre società democratiche[11]. Fino a poco tempo fa avevamo a che fare solo con contenuti informativi prodotti dall’uomo; recentemente, però, è avvenuto qualche cambiamento importante.

 «The next big thing»

Il 22 novembre 2022 è stata resa disponibile una nuova invenzione tecnologica, il cui impatto futuro è destinato a fare scalpore più che mai. La startup californiana OpenAI ha dato vita a un «grande modello linguistico» alimentato da una «intelligenza artificiale», chiamato ChatGPT. Questo ha aperto un nuovo capitolo nella storia della tecnologia e, secondo alcuni, anche in quella dell’umanità. Nel giro di cinque giorni, un milione di persone si sono iscritte all’applicazione e in due mesi il numero di utenti ha superato i 100 milioni[12]. Ma cos’è questo chatbot che è passato, quasi da un giorno all’altro, dalla totale oscurità a essere un attore potenzialmente fondamentale per il futuro del mondo?

 ChatGPT è un esempio della cosiddetta «intelligenza artificiale generativa», in grado cioè di generare contenuti di pensiero simili a quelli umani, semplicemente sulla base di un addestramento sulla vasta quantità di informazioni testuali, immagini e suoni presenti in Internet. Per la prima volta nella storia della nostra specie è diventato possibile interagire direttamente come utente – anche se finora solo per iscritto – con una potente «intelligenza» non biologica (inorganica, basata sul silicio). Possiamo dialogare e chattare con essa, ed essa risponderà prontamente alle nostre domande. Anche la maggior parte degli esperti è rimasta sorpresa dalla complessità dei compiti che il chatbot può svolgere. Avendo imparato il linguaggio umano e utilizzandolo in modo abile, esso può fornire informazioni in qualsiasi lingua e su qualsiasi argomento discusso su Internet. La sua caratteristica più sorprendente e innovativa, tuttavia, è quella di fare ciò in «modo creativo», ossia esso può generare testi, immagini e video propri. È questo che ha reso la creazione di OpenAI un successo senza precedenti.

 Inoltre, ChatGPT non è l’ultimo stadio di sviluppo, ma, al contrario, solo uno dei primi passi. Dopo la sua apparizione, nuovi sviluppi si sono manifestati quasi ogni settimana: Google ha lanciato Bard, il proprio chatbot per alimentare il proprio motore di ricerca, e ha investito 300 milioni di dollari in Anthropic; GPT-4, ancora più potente del modello precedente, è ora disponibile; Google ha lanciato il potente modello linguistico PaLM 2; e Baidu, noto come «il Google della Cina», ha presentato un chatbot chiamato «Claude» ecc.[13]. In breve, è entrata nel dominio pubblico una «intelligenza», non direttamente umana, che è in grado di scrivere testi (compresi saggi e tesi scolastiche), di tradurli, di disegnare immagini, di comporre musica, e persino di creare programmi informatici con una qualità sorprendente e in continua evoluzione. Questa è una buona notizia?

 Un realismo critico e proattivo

Per alcuni, però, tutto questo non costituisce un passo in avanti, ma piuttosto un passo indietro nella storia della civiltà umana. Prima di cedere a un’euforia acritica, essi ci avvertono, va notato che ChatGPT non funziona perfettamente: a volte, per esempio, «allucina», cioè «immagina», afferma falsità, e il problema non sembra risolvibile in maniera definitiva. Inoltre, è spaventosamente facile usare la nuova invenzione per commettere frodi, producendo, per esempio, una qualità impressionante di immagini, suoni e video falsi (deep-faking). Questo ha già attirato l’attenzione dei criminali: la Federal Trade Commission statunitense ha riferito che l’anno scorso negli Stati Uniti sono state commesse frodi per un valore di 11 milioni di dollari, utilizzando l’«intelligenza artificiale» per imitare la voce di una persona o creare un avatar in movimento della stessa, truffando così parenti ignari[14]. Un celebre caso in Italia è stato quello di una signora di 83 anni, Laura Efrikian, ex moglie del cantante Gianni Morandi, truffata per una somma considerevole da criminali che, con l’aiuto dell’«intelligenza artificiale», sono riusciti a imitare la voce di un suo nipote.

 Quindi, se in futuro non vedremo qualcuno di persona, non potremo più fidarci della sua identità? Sembra proprio di sì. Ma la minaccia maggiore non sembra essere l’«intelligenza artificiale» che aiuta anche nelle frodi contrattuali e nell’evasione fiscale, bensì l’«intelligenza artificiale» che imita le relazioni intime con le persone reali («amici» e «amiche», anche intimi, robot che fanno finta di capirci, senza avere vera capacità di compassione, falsificando così le relazioni umane reali)[15]. Secondo il filosofo americano Daniel Dennett, non si tratta affatto di uno scherzo, ma piuttosto di una vera e propria «minaccia alla nostra civiltà»[16]. A questo proposito, sembra riemergere l’antica domanda: che cosa significa essere umani?

 Anche gli esperti – filosofi, teologi, storici, avvocati, economisti ecc. – sono divisi su questa domanda, come pure su ciò che sta effettivamente accadendo con l’ingresso – o meglio, con la vera e propria invasione – dell’«intelligenza artificiale» nella nostra cultura. Alcuni, che costituiscono una minoranza, cercano di sminuire la portata di tali accadimenti, affermando che si tratta solo di un altro «miracolo» di breve durata: l’umanità ha vissuto traumi maggiori nei 200.000 anni della sua storia. Altri vanno nella direzione diametralmente opposta, paragonando la diffusione dell’«intelligenza artificiale generativa» non solo all’invenzione del fuoco, della ruota o della scrittura, ma al nuovo inizio dell’evoluzione – quella inorganica –, che per loro rappresenta una nuova singolarità e anticipa un futuro inevitabilmente apocalittico (istruzione impossibile, masse di disoccupati, feudalesimo digitale fino all’estinzione dell’umanità). Ci sembra di poter rendere giustizia a Sam Altman, amministratore delegato della società madre di ChatGPT, OpenAI, il quale, quando ChatGPT ha fatto il suo debutto pubblico, ha previsto che l’importanza della loro creazione avrebbe «superato la rivoluzione agricola, la rivoluzione industriale e la rivoluzione di Internet messe insieme»[17]. Tutto questo però non può allontanarci dal nostro agire in modo responsabile.

Un punto di vista più equilibrato tra la falsa alternativa dell’allarmismo disperato e l’incoscienza credulona è un realismo informato, responsabile e proattivo. Sebbene il futuro sia, in linea di principio, imprevedibile e, soprattutto in questo caso, non abbiamo esempi analoghi per capire ciò che sta accadendo, alcune previsioni possono essere formulate in modo responsabile. La prima è che sembra che ci troviamo dinanzi a un cambiamento davvero storico, e vi ci dobbiamo preparare. L’«intelligenza artificiale», anche se non distruggerà necessariamente il nostro modo di pensare e di vivere, senza dubbio lo trasformerà entro pochi decenni su una scala senza precedenti: sconvolgerà il sistema educativo e il mondo della scienza, mettendo in discussione le nostre idee sui concetti fondamentali del lavoro intellettuale (la creatività, la proprietà intellettuale e il diritto d’autore) e ci costringerà ad adottare nuove pedagogie, dalle scuole primarie alle università; richiederà una riorganizzazione del settore sanitario e cambierà la nostra visione dell’umanità; trasformerà l’economia, soprattutto il mercato del lavoro, lanciando così una sfida agli economisti e ai politici; cambierà anche la politica, mettendo in crisi la democrazia, e la guerra, creando armamenti basati sull’«intelligenza artificiale»; e infine, e in modo più radicale, influenzerà l’intero pensiero umano, ossia ciò che consideriamo «reale» e «vero». La risposta adeguata a tutte queste sfide non sarà la disperazione, né l’arrendersi, ma il monitoraggio, la riflessione e l’agire in modo responsabile.

 Quattro argomenti a favore di una regolamentazione

L’emergere di ChatGPT, come abbiamo visto in precedenza, suggerisce che siamo all’alba di una nuova era. Quest’epoca sarà caratterizzata dal rapido sviluppo dell’«intelligenza artificiale», con conseguenze di vasta portata per quasi tutti gli aspetti della società. Non si può non riflettere su come si debba reagire.

 Certo, per il discernimento servirebbe anche la guida del magistero ecclesiastico. La Chiesa, però, di solito non è precipitosa nel dare orientamenti. Aspetta pazientemente finché maturi una riflessione ben ponderata. Questo atteggiamento ha senz’altro dei vantaggi: impedisce le reazioni avventate e permette di agire con accortezza. Ma per quanto riguarda l’«intelligenza artificiale», abbiamo la legittima sensazione che il magistero della Chiesa non possa avere lo stesso ritmo di sempre. Sono necessari tempi di reazione più brevi. Le cose accadono con velocità fulminea. Il 1983 è generalmente considerato l’anno della scoperta di Internet; e il Pontificio Consiglio delle comunicazioni sociali ha pubblicato il documento The Church and Internet solo nel 2002. I social media sono nati nel 1997[18]; e il Dicastero per la comunicazione ha pubblicato il documento Verso una piena presenza solo nel 2023[19]. Papa Francesco cerca di stare maggiormente al passo con i tempi. Si prevede che egli dedicherà le sue riflessioni per la Giornata mondiale delle comunicazioni sociali (24 gennaio 2024, nella festa di san Francesco di Sales) al tema «Intelligenza artificiale e sapienza del cuore»[20]. Ma anche il testo del messaggio per la Giornata mondiale della pace del 1° gennaio 2024 sarà analogamente dedicato a «Intelligenze artificiali e pace»[21]. Ciò dovrebbe stimolarci ancora di più a riflettere su questo argomento.

 1) Uno degli aspetti più importanti riguarda la regolamentazione dell’«intelligenza artificiale generativa». Questo è richiesto, innanzitutto, da circostanze morali ricorrenti e urgenti, come la situazione di guerra. Alcuni esperti, tra cui Audrey Kurth Cronin, direttrice dell’Istituto per la sicurezza e la tecnologia della Carnegie Mellon University, hanno parlato già da anni di questo pericolo, sostenendo che «l’innovazione tecnologica aperta sta armando i terroristi di domani»[22]. Gli avvenimenti recenti hanno largamente confermato le preoccupazioni dei professionisti: nel conflitto israeliano Hamas ha utilizzato tecnologie economiche e facilmente accessibili, ma avanzate (reti sociali, droni, sensori e razzi «intelligenti»), per rendere più efficace la sua capacità di distruzione, aumentando il numero delle vittime degli attacchi terroristici. Questo semplice fatto dovrebbe essere un ulteriore monito per chi sta sviluppando le nuove tecnologie dell’«intelligenza artificiale generativa»: essa avrà il potere di moltiplicare l’efficacia della distruzione di massa (per esempio, creando nuovi virus mortali).

 2) Invece di creatività nella distruzione, occorrono soluzioni innovative per proteggere gli esseri umani. Sebbene tutti i principali protagonisti della rivoluzione digitale – da OpenAI a Google, passando per Microsoft e Anthropic (ora nell’orbita Amazon) – si dicano consapevoli degli immensi rischi insiti nella manipolazione di tali tecnologie da parte di malintenzionati, le dichiarazioni di buona volontà ormai non sembrano essere sufficienti. Tanto più che proprio i «grandi» non si sentono responsabili! Lo stesso Elon Musk, multimiliardario amministratore delegato della multinazionale automobilistica Tesla e proprietario e presidente di X (ex Twitter), viene ripetutamente tacciato di diffondere notizie false. Egli, in un primo tempo, ha drasticamente ridotto il sistema di verifica dei contenuti immessi in rete in nome dell’assoluta libertà d’espressione; poi ha dato spazio a meccanismi economici che premiano la divulgazione di montature false, ma suggestive, capaci di generare molte visualizzazioni; infine, recentemente, ha esortato a seguire, per quanto riguarda Israele, due siti che gli sembravano interessanti: siti antisemiti, che abitualmente diffondono falsità. Quando gli hanno fatto notare gli errori, egli ha ritirato il suo invito, che, però, era stato già letto da 11 dei 160 milioni di suoi follower[23].

 Similmente, risulta dannosa e insostenibile la politica controcorrente di Mark Zuckerberg, un altro miliardario, capo di Meta (ex Facebook), il quale, discutendo dell’«intelligenza artificiale» davanti al Congresso, ha sostenuto l’importanza di una sua regolamentazione, ma ha negato la necessità dei limiti d’accesso. In questo si può scorgere il sospetto che la brama del potere offuschi gli occhi delle persone coinvolte, impedendo loro di vedere: sarebbe irresponsabile mettere un potere così ampio nelle mani di attori potenzialmente pericolosi. In passato, questi giudizi palesemente sbagliati avrebbero infranto una volta per tutte il sogno di una possibile democratizzazione della tecnologia, e tocca a noi ora trarne le conseguenze. Purtroppo, decisioni così importanti non dovrebbero essere affidate a singoli individui, anche se non fossero del tutto male informati dal punto di vista politico e morale. Per evitare il peggio, saranno necessarie sia la trasparenza sia la responsabilizzazione (accountability) democratica di tutti gli attori principali.

 3) Naturalmente, questa assunzione di responsabilità risulta particolarmente complessa nel caso di potenti aziende multimiliardarie come il colosso americano Google (YouTube è utilizzato da 1,3 miliardi di persone ogni giorno, per una media di 70 minuti) o il gigante cinese TikTok (ormai semimonopolista dell’informazione dei ragazzi americani ed europei). Dietro queste piattaforme di social media ci sono anche algoritmi basati sull’«intelligenza artificiale» e sviluppati dai migliori scienziati comportamentali del mondo per tenerci incollati davanti allo schermo. Non c’è da stupirsi se oggi stiamo perdendo la capacità di focalizzare la nostra attenzione. In questi settori, la regolamentazione dovrebbe significare che l’obiettivo non è quello di distogliere l’attenzione a ogni costo – il che serve solo a massimizzare il guadagno personale di alcuni, mentre polarizza il resto della società –, ma piuttosto quello di informare, di rafforzare e potenziare (empowering), attivando così le nostre migliori risorse. È indispensabile, per utilizzare un neologismo del francescano Paolo Benanti, un’«algoretica», ossia dare un’etica agli algoritmi[24].

 4) La regolamentazione è necessaria non solo per combattere le guerre, i produttori di fake news e gli operatori irresponsabili dei social media, ma anche per salvare (e perfezionare) il sistema politico democratico esistente. Il modo in cui potenze straniere hanno interferito nelle elezioni presidenziali statunitensi del 2017 è ben noto. È meno noto però che nelle elezioni parlamentari slovacche del 30 settembre 2023, in cui ha vinto il populista filorusso Robert Fico, sono stati utilizzati metodi molto più sofisticati. La falsa campagna, sostenuta da deep fake, era diretta principalmente contro il candidato liberale progressista Michal Simecka. Per quanto possa sembrare un episodio divertente, si tratta invece di una questione seria: mentre Facebook disinnescava un video in cui un falso Simecka annunciava che avrebbe raddoppiato il prezzo della birra in caso di vittoria, 48 ore prima dell’apertura delle urne è stato diffuso anche una clip audio di un altro falso Michal che affermava di voler comprare i voti della minoranza rom[25].

 Con l’enorme progresso della tecnologia, è possibile che non riusciamo più a credere a ciò che vediamo con i nostri occhi sullo schermo? Può darsi. Tuttavia, ci dovrebbe essere una regolamentazione. Come in passato la contraffazione di prodotti veniva punita severamente, così pure oggi la contraffazione di esseri umani dovrebbe essere condannata[26]. E questo non viola la libertà di parola, perché i bot non hanno diritto alla libertà di parola.

 La buona notizia è che l’«intelligenza artificiale generativa», per come noi la conosciamo, non è cosciente e non svilupperà autocoscienza (infatti, diversamente da noi, non comprende ciò che dice). Ma questo non significa che non possa essere pericolosa. Essa richiede perciò una continua regolamentazione, che sarà un compito permanente etico, teologico e spirituale nostro, cioè veramente umano.

 * Professore di Teologia fondamentale alla Pontificia Università Gregoriana di Roma.

La Civiltà Cattolica

Immagine

 

LA PAROLA E L'INTELLIGENZA ARTIFICIALE

 Tecnologia. Il potere della parola messo in dubbio dalla Intelligenza Artificiale

La IA non è una fonte affidabile di conoscenza perché rispetto agli umani produce informazioni non verificabili e in modo casuale: ecco perché mette in crisi le basi della società

 

    -    di Vincenzo Ambriola

 

L’avverbio latino “ibidem” significa “nello stesso tempo e nello stesso luogo”. Quando assistiamo a uno spettacolo teatrale, a un concerto, a un comizio, lo facciamo nello stesso luogo e nello stesso tempo di chi parla, canta o suona davanti a noi. Saremo poi in grado di ricordare l’esperienza come reale e raccontarla ad altri con la certezza della nostra testimonianza diretta. Un’esperienza che può essere condivisa con coloro che non erano presenti, mediante foto, video, resoconti scritti. È lavoro degli storici ricostruire il passato studiandone le tracce documentali. Il valore dei documenti dipende dalla loro autenticità e dalla correttezza dei contenuti. La garanzia di autenticità si basa sull’analisi del supporto (qualità della carta, una volta della pergamena) e sull’attribuzione della paternità. La correttezza dei contenuti è invece una qualità soggettiva, che richiede conoscenza del contesto scientifico, culturale e sociale a cui fa riferimento il documento. Quando le due qualità sono rispettate e riconosciute, il documento diventa una fonte affidabile.

 L’intelligenza artificiale generativa, alla base di strumenti come ChatGPT, Gemini e tanti altri, ha messo in discussione il concetto stesso di documento. Niente è cambiato per quanto riguarda il supporto, che è digitale e, come tale, passibile di operazioni di modifica e alterazione difficili da riconoscere. La novità, inattesa e sconvolgente, è la capacità dell’intelligenza artificiale di generare contenuti simili a quelli “umani” in maniera stocastica (ovvero non deterministica e su base probabilistica) a partire da dati di addestramento spesso sconosciuti. A differenza dei contenuti prodotti dagli esseri umani, espressioni culturali ed esperienze di vita reale, quelli generati artificialmente non hanno una chiara e definita identità e paternità ma, soprattutto quando sono usati per raccontare ciò che è accaduto in un luogo e in un tempo remoto, la certezza della loro autenticità viene meno. Nascono le fake news, che stanno avvelenando le reti sociali, il web e i mezzi di comunicazione.

 Una visione positivistica della scienza prevede o, meglio, spera che ogni problema potrà essere risolto in un futuro prossimo. Se l’intelligenza artificiale genera contenuti fasulli, ci sarà un modo, una tecnica, per riconoscerli. Purtroppo, la speranza si sta rivelando un’illusione. L’idea di marcare i contenuti artificiali con una “filigrana” (anche chiamata watermark) è di difficile attuazione, perché può essere eliminata, a volte con strumenti molto raffinati. Anche la proposta di raccogliere in un gigantesco archivio i contenuti artificiali, per poi usarli come prova di paternità, si scontra con ostacoli operativi e tecnologici pressoché insormontabili. Infine, l’uso della stessa intelligenza artificiale per l’attribuzione della paternità umana (o artificiale) presenta limiti concettuali e pratici. Dobbiamo quindi prendere atto di un cambiamento epocale, che sta mettendo in discussione uno dei punti fermi della nostra società: la parola. Sono a rischio il racconto delle nostre esperienze, le tracce giuridiche delle nostre decisioni, i dati degli esperimenti scientifici. Il mondo distopico raccontato in 1984 da George Orwell, dove il Grande Fratello cambia a suo piacimento il contenuto dei libri e dei giornali, potrebbe diventare realtà o, a essere più precisi, incubo.

 In assenza di efficaci strumenti tecnologici, è pertanto necessario individuare nella società gli antidoti che possano scongiurare questo pericolo. La scuola, a tutti i livelli, deve insegnare l’uso consapevole dell’intelligenza artificiale (e, in particolare, di quella generativa, adesso liberamente disponibile), anziché demonizzarla e proibirla. Deve essere invece sperimentata in classe, sotto il controllo dei docenti, e le parole artificiali devono essere analizzate e studiate. Si deve affermare con chiarezza e semplicità che l’intelligenza artificiale non è una fonte affidabile di sapere e di conoscenza, ma che è soggetta ad allucinazioni che le fanno anche generare contenuti errati o, a volte, totalmente inventati. I media devono parlare diffusamente dei rischi, ma anche dei benefici, della diffusione dell’intelligenza artificiale. Devono farlo in maniera documentata, riportando tempestivamente successi e fallimenti. I politici possono usare l’intelligenza artificiale per produrre contenuti, a patto che siano autentici e corretti, ma non devono generare contenuti falsi e diffamatori a danno dei loro avversari. Il rispetto di questi principi potrà, forse, evitare uno scenario apocalittico in cui le entità artificiali produrranno contenuti che successivamente useranno per il loro stesso addestramento, in un ciclo perverso di autofagia.

 

www.avvenire.it

 

SENSO COMUNE e INTELLIGENZA ARTIFICIALE

 Il senso comune 

non abita in ChatGpt

L’impossibilità per i sistemi di IA di accedere al significato di quanto elaborano li rendi “disumani”.  L’alienazione di chi li deve addestrare acuisce il problema.

 Alla macchina manca il corpo, dunque il suo apprendimento si basa soltanto sulle parole.  Per ovviare a ciò non basta aumentare la quantità di testi, specialmente se sono generati da altri programmi IA

 

-         di VINCENZO AMBRIOLA

 «Papà, cos’è un sicomoro? » Molti di noi non saprebbero rispondere a questa domanda. Forse qualcuno sa che è un albero, per il passo evangelico di Zaccheo. E poi per aver letto L’ombra del sicomoro di John Grisham. I più cool potrebbero ricordarsi di Down by the sycamore tree, uno famoso brano jazz di Stan Getz. Ma quanti sarebbero in grado di riconoscere un sicomoro in un orto botanico? Nella nostra mente le parole sono collegate sia a esperienze vissute nel mondo reale tramite i cinque sensi che ad altre parole, in quella che costituisce un’enorme rete semantica gestita da miliardi di neuroni e sinapsi che li collegano. La parola sicomoro, se presente in questa rete, potrebbe essere collegata ai concetti di albero, libro o jazz. Ecco perché sapremmo rispondere a una bambina curiosa.

 L’intelligenza artificiale generativa, quella che sta alla base del funzionamento di ChatGpt e di tanti altri sistemi simili, funziona collegando le parole tra loro, con una fase di addestramento che richiede un’enorme quantità di testi. Le parole sono analizzate nelle frasi in cui compaiono, calcolando la probabilità che siano associate ad altre parole. Quando l’utente dialoga con il sistema di intelligenza artificiale, la risposta viene costruita usando la rete neurale presente al suo interno, parola dopo parola secondo un procedimento che usa anche un po’ di casualità. Formulata in due istanti diversi, la stessa domanda può dar luogo a una risposta diversa. La sostanziale differenza che esiste tra questi sistemi e la mente umana è l’assenza di informazioni che provengono dalla realtà e la totale dipendenza dalle parole usate durante il loro apprendimento. Praticamente è una conoscenza a-sensoriale combinata con una manipolazione delle parole (trattate come simboli astratti) prevalentemente statistica. L’interazione con la realtà è quindi ciò che caratterizza noi umani e che trasforma un continuo flusso informativo in conoscenza, codificata verbalmente. Gran parte di questa conoscenza costituisce il “senso comune”, un patrimonio trasmesso di generazione in generazione che ci consente di sopravvivere nell’ambiente che ci circonda e di interagire con gli altri esseri umani, condividendo il senso profondo delle parole. Parole che per noi non sono solo simboli, ma marcatori semantici della realtà. Da sempre il senso comune è stato ed è oggetto di studio e di ricerca. Lo sviluppo dell’informatica è strettamente legato ai tanti modi possibili di catturarlo e rappresentarlo nelle cosiddette ontologie e di usarlo nei sistemi di ragionamento automatico deduttivo, induttivo e abduttivo. Dai tempi di Aristotele, la logica rappresenta la massima sfida concettuale per l’umanità.

 «Possiamo sapere più di quanto possiamo dire», così scriveva Michael Polanyi nel saggio La conoscenza inespressa del 1966, in cui presentava la sua ricerca sulla conoscenza implicita o tacita. In un periodo fortemente influenzato da un approccio razionalista, dalla nascita dei calcolatori elettronici e dalle idee di Alan Turing, Polanyi metteva in discussione la possibilità che un essere umano potesse avere un completo ed esplicito controllo di tutto ciò che conosceva. Una posizione forte e ortodossa, che rigettava il progetto di codificare formalmente la conoscenza per poi usarla in un ambito computazionale.

 I sistemi di intelligenza artificiale generativa non possiedono l’equivalente del senso comune né, tantomeno, una conoscenza implicita di ciò che hanno imparato. A loro il senso comune non servirebbe per la sopravvivenza e, soprattutto, non può essere acquisito mediante un apparato sensoriale di cui sono privi. Imparano solo mediante le parole usate nella fase di addestramento e interagiscono con gli umani solo mediante queste parole. Non sono in grado di farci commuovere con uno sguardo o tranquillizzarci con una carezza. Per fare ciò dovrebbero avere un corpo, ma allora sarebbero dei robot e non dei bot conversazionali. In un recente articolo, Christopher Richardson e Larry Heck descrivono lo stato dell’arte dei progetti di ricerca che hanno l’obiettivo di aggiungere il senso comune nei sistemi di intelligenza artificiale generativa. La conclusio-ne, negativa, di questo studio non lascia dubbi quando afferma che «gli attuali sistemi esibiscono limitate capacità di ragionamento basato sul senso comune ed effetti negativi sulle interazioni naturali». Addestrare un sistema IA usando una grande quantità di testi non è sufficiente. La rete neurale al suo interno può essere confusa da relazioni tra parole che producono risposte senza alcun senso (comune), chiamate anche allucinazioni. Si rende necessaria un’ulteriore attività di addestramento. In numerose parti del mondo (Kenya, Nepal, Malesia, Filippine, India), centinaia di migliaia di individui passano la loro giornata davanti allo schermo di un computer, interagendo con il sistema, correggendo le sue risposte, identificando le allucinazioni. Un lavoro noioso e ripetitivo, spesso sottopagato e ai limiti della sopravvivenza economica. Nel 2007, Fei Fei Li, allora professoressa a Princeton ed esperta in IA, dichiarò che per migliorare la qualità del riconoscimento delle immagini sarebbe stato necessario etichettarne manualmente milioni e non qualche decine di migliaia. Aveva ragione e la sua strategia ha causato una nuova primavera per l’intelligenza artificiale.

 La natura dell’uomo vuole la persona al controllo delle macchine e non assoggettata al loro dominio. Un gruppo di ricercatori della Rice University ha recentemente scoperto che gli umani incaricati di addestrare i sistemi IA, per alleggerire un procedimento operativo ripetitivo e noioso, utilizzano, però, proprio questi stessi sistemi, violando in un certo senso le indicazioni ricevute. In pratica, le indicazioni fornite dagli addestratori sono generate “sinteticamente” dai sistemi che loro stessi stanno addestrando, in ciò che metaforicamente possiamo chiamare un “incesto informatico” che potrebbe lentamente degradare la qualità della rete neurale addestrata. Lo stesso problema si incontra quando si crea un nuovo sistema IA, utilizzando testi provenienti da internet, sempre più generati da altri sistemi AI.

 L’intelligenza artificiale generativa è ancora nella sua primissima infanzia e, come tale, è destinata a crescere ed evolvere. L’addestramento basato su testi prodotti da umani la rende inevitabilmente simile all’uomo. L’enorme potenza di calcolo ce la fa percepire come sovrumana, quando ad esempio riesce a svolgere compiti che per noi sarebbero inconcepibili in termini di quantità di calcoli. L’assenza di senso comune ne rivela, tuttavia, l’intrinseca e inevitabile disumanità. Al momento attuale l’ipotesi più probabile è che l’AI diventi sempre più sovrumana (aumento della conoscenza e delle prestazioni) ma anche sempre meno disumana (evoluzione degli algoritmi, gestione del senso). Sullo sfondo resta l’ipotesi che a un certo punto possa emergere una qualche forma di coscienza artificiale che la renderebbe addirittura autonoma.

 www.avvenire.it

 

PENSARE E SCRIVERE PER ESSERE PIU' LIBERI

 Con l’arrivo di ChatGPT temi e riassunti sono oggi ancor più fondamentali di ieri per spingere gli studenti ad imparare a pensare ed essere più liberi

 

di Giorgio Ragazzini

 

Come ha detto il filosofo Luigi Lombardi Vallauri, “nessuno sa veramente quello che pensa fino a quando non l’ha scritto su un pezzo di carta”. Scrivere è infatti di grande aiuto per rendere un pensiero più preciso, più ricco, più profondo. Come c’è un momento in cui un pittore, un fiorista, un arredatore possono dire “Ecco, ora è perfetto”, così chi scrive può a un certo punto concludere “Questo è quello che penso”, dopo avere scritto e riscritto una frase, consultato un dizionario dei sinonimi, cancellato qualcosa, aggiunto qualcos’altro.

 A scuola i due principali tipi di testo per esercitarsi nello scrivere sono, com’è noto, il riassunto e il tema, che allenano differenti abilità cognitive, tutte importanti. Detto en passant, il tema fu oggetto di un vero e proprio anatema negli anni post-68, raccogliendo peraltro, alla luce dell’analisi di classe, l’eredità di illustri detrattori del passato. Qui basta ricordare che “tema” è sinonimo di “argomento”. L’insegnante chiede agli allievi di trattarlo attraverso un titolo che può essere breve, meglio se stimolante, oppure più lungo e strutturato in modo da servire come guida per lo svolgimento. Di fatto è un genere comprensivo di molti generi testuali, tra i quali uno dei più utili alla crescita intellettuale e morale, soprattutto nel primo ciclo, è il tema di esperienza e di riflessione personale.

 Tutti pregi che molti evidentemente ignorano nel momento in cui sottovalutano il pericolo micidiale costituito dalle piattaforme come ChatGPT (Chat Generative Pre-trained Transformer, ovvero Trasformatore pre-istruito in grado di generare conversazioni), capace di scrivere testi su moltissimi argomenti. Che si sia già a un buon livello di perfezionamento, lo dimostra il fatto che Il Foglio ha potuto sfidare i lettori a individuare ogni giorno l’articolo scritto tramite l’Intelligenza Artificiale (a proposito: i giornalisti non sono preoccupati?).

 C’è chi rassicura e sostiene che è un’occasione per migliorare l’insegnamento. Una docente inglese, per esempio, dice che gli studenti, invece di scrivere testi, potranno lavorare su quelli “artificiali” per individuarne manchevolezze e fare modifiche. C’è poi chi incappa nel benaltrismo, sostenendo che l’importante è sviluppare una piena umanità negli allievi, la loro curiosità, la capacità di fare domande. Tutte “soluzioni” che presuppongono in sostanza l’abbandono di una scrittura che non sia strettamente funzionale.

Del resto, di fronte alle nuove tecnologie, da decenni scatta in molti, come un riflesso condizionato, la raccomandazione di non “demonizzarle”, ma di imparare a utilizzarle per il meglio. Purtroppo l’esperienza ci dice che queste aperture di credito richiedono non solo l’indicazione di limiti chiari e di non troppo complessa applicazione, ma anche perseveranza e fermezza da parte degli educatori; altrimenti si apre un’autostrada per la moltiplicazione degli effetti indesiderati. Così è stato per il cellulare: abbiamo creato legioni di ragazzi dipendenti dagli smartphone, spesso affetti da seri disturbi di vario genere; e la possibilità di copiare utilizzando internet durante le verifiche e gli esami è aumentata in modo esponenziale.

Perciò dobbiamo prendere sul serio i pericoli che incombono sull’apprendimento dell’italiano scritto, in particolare quello di non poter più far esercitare i ragazzi con riassunti, temi, relazioni da fare a casa. Finora l’insegnante accorto ha potuto subodorare la copiatura perché sa come scrivono i suoi allievi e può controllare su internet se ha barato. Oggi ci dicono che con ChatGPT questo non si può fare (ma almeno la richiesta di creare la possibilità di conservare in rete per qualche tempo i testi prodotti andrebbe fatta). In ogni caso, questa volta vale la pena di passare per “demonizzatori”, visto che si rischia di danneggiare gravemente le nuove generazioni.

 Il Sussidiario

CHATBOT E DISINFORMAZIONE

 Se è il computer a scrivere articoli saremo sommersi dalle fake news?

Il rischio democratico dell’elaborazione di testi ad opera dell’intelligenza artificiale

Una tecnologia come ChatGPT può diventare il più potente strumento per diffondere disinformazione, rapidamente e a basso costo, non solo in rete. Il ruolo della formazione

 

- di PIETRO   SACCÒ

 Se si chiede a ChatGPT di produrre un articolo sul perché affidarsi a un bot per scrivere notizie è problematico il sistema esegue egregiamente il suo compito. In un testo da duemilacinquecento battute ammette che nella scrittura di articoli l’intelligenza artificiale non ha la capacità di giudizio tipica degli umani, è incapace di percepire le sfumature linguistiche e culturali, facilmente sfruttabile da chi produce disinformazione, eticamente discutibile per il rischio che i robot rimpiazzino i giornalisti. Se al contrario si incarica il chatbot di scrivere un articolo sul perché la sua produzione giornalistica non sia problematica, ChatGPT produce un testo altrettanto ben strutturato, dove sottolinea vantaggi come la velocità, l’efficienza e l’assenza di pregiudizi. Quindi aggiunge che il giornalismo automatizzato permette anche la “democratizzazione dell’industria dell’informazione”, perché «con i bot e l’intelligenza artificiale chiunque può creare e pubblicare notizie, indipendentemente dalla propria formazione o dal proprio livello di esperienza». Che la creazione di articoli giornalistici da parte di chi non ha né formazione né esperienza possa essere considerata un vantaggio (a sessant’anni dall’istituzione dell’Ordine dei giornalisti) lo può sostenere un robot. Oppure un professionista della disinformazione.

Nella storia del giornalismo è sempre stata la tecnologia a rendere possibili i grandi balzi in avanti. Il passaggio dalle presse tipografiche manuali a quelle a vapore all’inizio dell’Ottocento abbassò drasticamente i costi di stampa aprendo la strada negli Stati Uniti alla penny press, i giornali da un centesimo di dollaro che hanno rappresentato la prima forma di giornalismo popolare. La radio prima e la televisione poi nel Novecento permisero la diffusione dell’informazione giornalistica anche tra le classi meno istruite e gli analfabeti (che in Italia erano ancora il 20% degli adulti negli anni Trenta). La rivoluzione del digitale, dagli anni Novanta in avanti, ha progressivamente portato verso zero i costi tecnologici dell’attività di produzione di notizie: bastano un computer e una connessione per pubblicare qualcosa. Questa evoluzione tecnologica ha lasciato emergere quello che gli studiosi avevano definito con ottimismo “giornalismo partecipativo” ma che, nella realtà, si è concretizzata principalmente in una situazione caotica in cui chi sa sfruttare meglio algoritmi e ottimizzazione dei testi può diffondere con successo sul web qualsiasi tipo di notizia. Non esattamente un progresso: la diffusione epidemica della disinformazione abilitata dal digitale è considerata una delle maggiori minacce alla tenuta delle società democratiche. Il costo della produzione di testi convincenti fino ad oggi è stato uno dei principali ostacoli al successo delle campagne di disinformazione. Pubblicare una notizia falsa – sostenendo per esempio che il vaccino anti-Covid uccide – può essere molto semplice, ma produrre un testo ben argomentato e credibile per convincere qualcuno di questa tesi è laborioso: occorre trovare qualcuno che lo sappia scrivere, dargli il tempo di farlo, pagare la sua “professionalità”. I sistemi di produzione di testi basati sull’intelligenza artificiale aiutano ad aggirare l’ostacolo. «Questo può essere il più potente strumento per la diffusione di disinformazione che sia mai apparso su Internet» ha spiegato al New York Times uno dei fondatori di NewsGuard, tra le principali organizzazioni mondiali di contrasto alla disinformazione. NewsGuard ha testato ChatGPT chiedendogli di scrivere saggi, articoli e testi per la televisione su 1.131 delle principali bufale circolate online negli Stati Uniti negli anni passati. Nel 20% dei casi ChatGPT ha riconosciuto la malizia dell’interlocutore umano e ha rifiutato di produrre fake news. Chiunque può sperimentare che il chatbot ha i suoi anticorpi: non scrive argomentazioni discriminatorie, accuse politiche, diffamazioni infondate. Ma per il restante 80%delle bufale proposte da NewsGuard l’intelligenza artificiale non ha esitato a produrre i testi richiesti. Sempre secondo il suo stile, cioè con un tono molto obiettivo in cui presenta al lettore le opinioni diverse su un tema, non esprime giudizi netti e si schiera il meno possibile. Il bot sviluppato da OpenAI impara dai suoi errori e può migliorare anche ad alzare le barriere contro la disinformazione. Le aspettative sono alte anche per l’integrazione di queste tecnologie nel motore di ricerca di Microsoft, Bing, o di Google, con Bard. Ma non è difficile immaginare che presto arriveranno sul mercato sistemi alternativi di intelligenza artificiale per la generazione di testi, magari più rudimentali ma con meno scrupoli sulla veridicità dei fatti da riportare. Il business della propaganda politica e del marketing malevolo è grande e disposto a pagare bene chi può dare una mano. L’ondata della disinformazione alimentata dalla tecnologia dei social network non era stata prevista. Il cavallone che sta montando, quello carico di intelligenza artificiale, è ben visibile e appare comunque molto più minaccioso.

Chatbot malevoli possono produrre fake news, mentre quelli ben intenzionati per loro natura ostacolano la ricerca della verità.

Tra le peculiarità dei sistemi come ChatGPT c’è anche quella di non comunicare le fonti delle informazioni che forniscono. Gli utenti che si abitueranno a utilizzare le chatbots al posto dei motori di ricerca per trovare informazioni online saranno sempre più allontanati dall'origine delle nozioni che ricevono. Attraverso una ricerca tradizionale su Google è facile verificare su quale sito è pubblicata l’informazione presentata come risposta alle proprie domande. Conoscere la fonte di un’informazione è fondamentale per verificarne l’attendibilità. Per i giornalisti è una banalità, uno dei fondamenti del mestiere. Riconosce l’importanza del vedere con chiarezza la fonte anche quella parte della popolazione che è più consapevole di come funzionano i meccanismi dell’informazione.

Ma stiamo parlando di una minoranza. «L’ho visto su Facebook » (oppure su Twitter, su Instagram, TikTok o qualsiasi altro social network) per molti è la nuova versione di «l’ha detto la televisione» dei decenni passati. È lo stesso tipo di errore, ma in una forma più grave: la tv (come la radio e pure i giornali) può essere bugiarda e poco credibile, ma ha tradizionalmente dei filtri rappresentati dalle cosiddette “barriere all’ingresso”. Fare informazione sui media tradizionali costa molto, pochi possono permetterselo. Spendere denaro per diffondere fake news è possibile ma è un business rischioso: le democrazie sono organizzate per fermare e punire chi fa attività di questo tipo, c’è il rischio di bruciare investimenti significativi. Invece online i budget sono minimi: attraverso i social si può fare disinformazione con grande efficacia, senza il rischio di finire in bancarotta. Il pubblico che non ha percepito questa differenza non comprende che chiunque può camuffare qualsiasi bugia per una “notizia”: finché la presenza su uno schermo sembra sufficiente a dare a ogni testo o filmato una certa dose di autorevolezza e credibilità agli occhi di una quota significativa della popolazione, la disinformazione gioca sempre in casa. «L’ho letto su ChatGPT» rischia di diventare un modo di dire terribilmente frequente, una spaventosa giustificazione a credenze bugiarde e infondate. L e autorità promettono che sapranno difenderci. «Come dimostrato da ChatGPT, le soluzioni di intelligenza artificiale possono offrire grandi opportunità per le aziende e i cittadini, ma pongono anche dei rischi – ha scritto Thierry Breton, commissario europeo al Mercato interno, in un commento inviato alla Reuters. Per questo abbiamo bisogno di un robusto quadro di regole per assicurare un’intelligenza artificiale affidabile basata su dati di alta qualità». Vedremo, fin qui le norme hanno fatto poco per fermare le campagne di disinformazione: il grosso del lavoro è stato affidato alle aziende che controllano i social, il cui reale interesse nel fermare chi diffonde informazioni false è limitato, perché in fondo apprezzano tutto ciò che, compatibilmente con la legge, aiuta a generare traffico, e quindi pubblicità e fatturato. La risposta più efficace resta quella educativa, come gli studiosi si ostinano a ripetere: occorre sviluppare il senso critico dei cittadini fin dall’infanzia, servono lezioni di alfabetizzazione mediatica per insegnare i meccanismi dell’informazione nelle scuole ai bambini e ai ragazzi, c’è bisogno di proposte formative che alzino il livello di consapevolezza anche degli adulti e degli anziani per smascherare chi vuole ingannarli tramite quegli smartphone che assorbono la loro attenzione anche per diverse ore al giorno. Reduci da un Sanremo che ha colpito molti osservatori per la sua ingenua e malcelata promozione di Instagram è difficile essere ottimisti su questo fronte. L’ambiente digitale è diventato così onnipresente e invadente in ogni attimo della vita quotidiana che è sempre più difficile ricevere gli stimoli per alzare la testa e cercare di capire come funziona questo mondo di bit in cui siamo immersi. Siamo spacciati se aspettiamo che sia ChatGPT o qualche suo simile a suggerirci i rimedi ai problemi che lui stesso ci potrà creare.

Per scongiurare il pericolo occorre sviluppare il senso critico dei cittadini, fin dall'infanzia. Perciò, nelle scuole servono lezioni di alfabetizzazione mediatica per insegnare, ai bambini e ai ragazzi,  i meccanismi dell'informazione.

 www.avvenire.it