UN CLIC ALLA VOLTA

 

Così i social stanno sabotando

 la democrazia, 

un clic alla volta

di Leonardo Becchetti

Il modo più efficace per catturare attenzione è far litigare le persone, così gli algoritmi premiano chi litiga. Per questo dobbiamo regolamentare e rendere trasparenti le formule delle piattaforme digitali

C’è una cosa che dobbiamo fare, se vogliamo salvare la democrazia. E dobbiamo farla subito: regolamentare e rendere trasparenti gli algoritmi delle piattaforme digitali. Le agorà digitali sono diventate un luogo centrale nell’interazione e dello scambio tra esseri umani. Da anni molti di noi sperimentano, quasi “a pelle”, che il terreno di gioco è truccato. Ma fino a oggi mancavano prove chiare. Il caso emblematico è Twitter, oggi X. Chi lo frequenta sa bene che un messaggio carico di rabbia, livore o attacco personale ottiene molto più seguito – like, commenti, repost – di una riflessione pacata che invita alla concordia e all’incontro tra le parti. Perché succede? La logica economica è semplice. I proprietari della piattaforma puntano al massimo profitto, che dipende dalla capacità di catturare l’attenzione. Più attenzione significa più tempo speso online, più contatti, maggiori entrate pubblicitarie. E il modo più efficace per catturare attenzione è far litigare le persone. È un vecchio trucco già visto nei talk show televisivi, dove lo scontro era messo in scena alla luce del sole. Negli algoritmi, invece, tutto è più subdolo. C’è qualcuno – o meglio qualcosa – che decide se il tuo post va in “prima pagina”, viene messo nel dimenticatoio o invece fatto leggere come primo post a chi già sappiamo reagirà con rabbia perché di idee opposte. E ci sono infinite strade per manipolare i consensi premiando chi semina zizzania, livore e conflitto.

Oggi sappiamo ancora meglio come questo esattamente accade. Il proprietario di X ha reso nota la formula che valuta i post in base alla loro capacità di generare engagement, cioè coinvolgimento. Apparentemente è un criterio neutro: si mostra ciò che “interessa”. Ma quando la metrica principale diventa la quantità di interazioni, i contenuti polarizzanti e aggressivi vengono premiati, perché generano reazioni più immediate e intense. Non è necessario che la piattaforma “voglia” esplicitamente più rabbia: è sufficiente che premi l’engagement, perché la rabbia è una delle forme più efficienti di cattura dell’attenzione. I modi in cui questo avvelena la democrazia sono almeno due. Primo: i violenti e gli arrabbiati prevalgono su chi vuole promuovere dialogo, riflessione e conciliazione. Secondo: le persone alla ricerca di consenso, progressivamente, si trasformano. Si accorgono che la rabbia “funziona” e finiscono per adottarla.

Un algoritmo che amplifica sistematicamente contenuti aggressivi e penalizza quelli dialogici entra in conflitto con principi costituzionali fondamentali. Richiama l’art. 21, perché la libertà di espressione non è solo “poter parlare”, ma anche poter partecipare a un dibattito pubblico non strutturalmente distorto da meccanismi opachi di visibilità. Interroga l’art. 3, perché crea una disuguaglianza di fatto nell’accesso alla sfera pubblica premiando chi urla e marginalizzando chi argomenta.

 Tocca l’art. 2, perché un ambiente progettato per incentivare ostilità e disprezzo erode solidarietà e legami sociali. Riguarda l’art. 1, perché la sovranità popolare richiede cittadini informati e un’opinione pubblica non manipolata. Infine chiama in causa l’art. 41, perché l’iniziativa economica privata non può svolgersi contro dignità umana e utilità sociale, fondando così un dovere pubblico di regolazione e trasparenza.

 I social sono uno strumento straordinario (lo Speaker’s Corner globale) e non dobbiamo gettare il bambino con l’acqua sporca. Ma l’epoca del Far west deve finire. Piattaforme più sane – dove la discussione non sia sistematicamente premiata quando diventa insulto e disprezzo – devono diventare la regola e non l’eccezione.

Qualcosa si muove. Il premier spagnolo Pedro Sánchez ha annunciato un pacchetto di misure che va nella direzione giusta: obbligo di trasparenza e pubblicazione degli algoritmi, responsabilità legale dei dirigenti, nuovi reati per la manipolazione algoritmica e l’amplificazione di contenuti illegali, sistemi di monitoraggio dell’odio e della polarizzazione, e un rafforzamento serio della verifica dell’età per proteggere i minori. E, aggiungiamo noi, identità di chi scrive e interventi severi di antitrust che eliminano le barriere all’entrata di quasi monopoli creando una concorrenza tra più piattaforme su basi eguali. Nel mondo occidentale i reiterati appelli al liberalismo, alla concorrenza e al mercato stranamente si fanno silenti quando i nodi da affrontare sono più importanti e su terreni delicati come questo. 

La trasparenza degli algoritmi e l’eventuale intervento in caso di incostituzionalità è fondamentale, beninteso, non per eliminare il confronto anche aspro ed accesso tra idee diverse nella nostra vita sociale. Il punto è che contrasto franco di idee, da una parte, e tentativi di trovare punti d’incontro e di promuovere armonia e concordia, dall’altra, devono poter gareggiare ad armi pari. Se al contrario l’algoritmo diventa una macchina che premia sistematicamente inimicizie, discordia, divisioni, fazioni, allora la politica e le istituzioni hanno il dovere di intervenire. 

Perché la democrazia non è solo voto: è relazione, fiducia, capacità di riconoscere l’altro come persona. E nessuna società può restare libera a lungo se l’arena pubblica viene progettata per renderci ogni giorno un po’ più arrabbiati.

www.avvenire.it

Immagine

 

GIORNATA MONDIALE COMUNICAZIONI SOCIALI

Il Papa: l’uomo non diventi cibo per algoritmi, la comunicazione resti pienamente umana

Nel messaggio per la 58.ma Giornata Mondiale delle Comunicazioni Sociali, Francesco riflette su opportunità e rischi dell’intelligenza artificiale e delle nuove tecnologie che stanno “modificando in modo radicale l’informazione”. Un pensiero per tutti i reporter di guerra: “L’uso dell’IA non annulli il ruolo del giornalismo sul campo. Solo toccando con mano la sofferenza si può comprendere l’assurdità delle guerre”

-          - di Salvatore Cernuzio – Città del Vaticano

       

Fake news e deep fake, echo chambers, machine learning, social media. Nuovi strumenti, nuovi canali, nuove opportunità ma, allo stesso tempo, nuove “patologie” e insidie soprattutto per il campo della comunicazione che rischia di finire oggetto dell’“inquinamento cognitivo”, cioè l’alterazione della realtà tramite false narrazioni, falsi messaggi vocali e false fotografie (anche il Papa ne è stato oggetto), o l’annullamento del prezioso ruolo dei reporter sul campo, in particolare negli scenari di guerra. Papa Francesco torna a riflettere sull’IA nel suo Messaggio per la 58.ma Giornata Mondiale delle Comunicazioni Sociali sul tema Intelligenza artificiale e sapienza del cuore: per una comunicazione pienamente umana. Nel documento firmato a San Giovanni in Laterano per il 24 gennaio, festa di San Francesco di Sales, patrono dei giornalisti, Francesco guarda con ammirazione e preoccupazione all’evoluzione dei sistemi che stanno “modificando in modo radicale anche l’informazione e la comunicazione” e, “alcune basi della convivenza civile”.

Si tratta di un cambiamento che coinvolge tutti, non solo i professionisti

Il Papa: l’intelligenza artificiale sia via di pace, non promuova fake news o la follia della guerra

L'importanza dei reporter 

Il pensiero del Papa è in particolare al mondo del giornalismo, al racconto delle guerre e a quella “guerra parallela” tramite campagne di disinformazione. “Quanti reporter sono feriti o muoiono sul campo per permetterci di vedere quello che i loro occhi hanno visto”, scrive Francesco, “solo toccando con mano la sofferenza dei bambini, delle donne e degli uomini, si può comprendere l’assurdità delle guerre”.

L’uso dell’intelligenza artificiale potrà contribuire positivamente nel campo della comunicazione, se non annullerà il ruolo del giornalismo sul campo, ma al contrario lo affiancherà; se valorizzerà le professionalità della comunicazione, responsabilizzando ogni comunicatore; se restituirà ad ogni essere umano il ruolo di soggetto, con capacità critica, della comunicazione stessa

Non irrigidirsi davanti al nuovo, ma restare sensibili a ciò che non è umano

Dinanzi all’accelerazione della diffusione di “meravigliose invenzioni” che suscita “uno stupore che oscilla tra entusiasmo e disorientamento”, il Papa invita a domandarsi: “Come possiamo rimanere pienamente umani e orientare verso il bene il cambiamento culturale in atto?”.

Intanto, “conviene sgombrare il terreno dalle letture catastrofiche e dai loro effetti paralizzanti”; quindi, come affermava Romano Guardini, “non irrigidirsi contro il ‘nuovo’ nel tentativo di conservare un bel mondo condannato a sparire”. Al tempo stesso, però, bisogna rimanere “sensibili” a tutto ciò che è “distruttivo” e “non umano”. Bisogna, cioè, ripartire dal cuore “in quest’epoca che rischia di essere ricca di tecnica e povera di umanità”. Serve sapienza, afferma ancora Francesco, e non possiamo pretenderla dalle macchine.

Non si tratta di esigere dalle macchine che sembrino umane. Si tratta piuttosto di svegliare l’uomo dall’ipnosi in cui cade per il suo delirio di onnipotenza, credendosi soggetto totalmente autonomo e autoreferenziale, separato da ogni legame sociale e dimentico della sua creaturalità

Il pericolo delle fake news

È una tentazione antica, infatti, quella dell’uomo, di “diventare come Dio senza Dio”. E “ogni prolungamento tecnico dell’uomo può essere strumento di servizio amorevole o di dominio ostile”, sottolinea il Papa. “I sistemi di intelligenza artificiale possono contribuire al processo di liberazione dall’ignoranza e facilitare lo scambio di informazioni tra popoli e generazioni diverse”. Possono, però, essere pure strumenti di “inquinamento cognitivo”, cioè di quelle fake news che si avvalgono del deep fake, la “creazione” e “diffusione di immagini che sembrano perfettamente verosimili ma sono false (è capitato anche a me di esserne oggetto)”, o di “messaggi audio che usano la voce di una persona dicendo cose che la stessa non ha mai detto”. La simulazione alla base “diventa perversa là dove distorce il rapporto con gli altri e la realtà”, ammonisce il Pontefice.

Il Papa: attenzione alla diffusione di falsità e odio attraverso i social network

L'incontro stamattina, in Vaticano, di Papa Francesco con gli appartenenti all’International Catholic Legislators Network, una rete la cui finalità è la formazione di una nuova ...

Opportunità e rischi dei social 

Si sofferma poi sui social media, anch’essi “strumenti che nelle mani sbagliate potrebbero aprire scenari negativi”. “Come ogni altra cosa uscita dalla mente e dalle mani dell’uomo, anche gli algoritmi non sono neutri”, annota il Papa, chiedendo di “agire preventivamente”, proponendo modelli di regolamentazione etica. L’appello è di nuovo alla Comunità internazionale a formulare “un trattato internazionale vincolante, che regoli lo sviluppo e l’uso dell’intelligenza artificiale nelle sue molteplici forme”. 

Grandi possibilità di bene accompagnano il rischio che tutto si trasformi in un calcolo astratto, che riduce le persone a dati, il pensiero a uno schema, l’esperienza a un caso, il bene al profitto, e soprattutto che si finisca col negare l’unicità di ogni persona e della sua storia, col dissolvere la concretezza della realtà in una serie di dati statistici

“La rivoluzione digitale può renderci più liberi”, aggiunge poi il Pontefice, sottolineando che tuttavia “non è accettabile che l’uso dell’intelligenza artificiale conduca a un pensiero anonimo, a un assemblaggio di dati non certificati, a una deresponsabilizzazione editoriale collettiva”. La rappresentazione della realtà in big data rischia di “danneggiare la nostra stessa umanità”.

Domande cruciali

Da qui una serie di domande per riflettere sul presente e sul futuro, punto centrale dell’intero Messaggio:

Come tutelare la professionalità e la dignità dei lavoratori nel campo della comunicazione e della informazione, insieme a quella degli utenti in tutto il mondo? Come garantire l’interoperabilità delle piattaforme? Come far sì che le aziende che sviluppano piattaforme digitali si assumano le proprie responsabilità rispetto a ciò che diffondono e da cui traggono profitto, analogamente a quanto avviene per gli editori dei media tradizionali? Come rendere più trasparenti i criteri alla base degli algoritmi di indicizzazione e de-indicizzazione e dei motori di ricerca, capaci di esaltare o cancellare persone e opinioni, storie e culture?

Ancora il Papa chiede:

Come garantire la trasparenza dei processi informativi? Come rendere evidente la paternità degli scritti e tracciabili le fonti, impedendo il paravento dell’anonimato? Come rendere manifesto se un’immagine o un video ritraggono un evento o lo simulano? Come evitare che le fonti si riducano a una sola, a un pensiero unico elaborato algoritmicamente? E come invece promuovere un ambiente adatto a preservare il pluralismo e a rappresentare la complessità della realtà? Come possiamo rendere sostenibile questo strumento potente, costoso ed estremamente energivoro? Come possiamo renderlo accessibile anche ai paesi in via di sviluppo?

Nuove schiavitù e conquiste di libertà

Dalle risposte a questi interrogativi, “capiremo se l’intelligenza artificiale finirà per costruire nuove caste basate sul dominio informativo, generando nuove forme di sfruttamento e di diseguaglianza” oppure, insiste Francesco, se “porterà più eguaglianza”, promuovendo una corretta informazione e una maggiore consapevolezza del passaggio di epoca.

Da una parte si profila lo spettro di una nuova schiavitù, dall’altra una conquista di libertà; da una parte la possibilità che pochi condizionino il pensiero di tutti, dall’altra quella che tutti partecipino all’elaborazione del pensiero

La risposta non è scritta, dipende da noi: “Spetta all’uomo decidere se diventare cibo per gli algoritmi oppure nutrire di libertà il proprio cuore”.

 

Vatican News

 

 

 

AGLI ALGORITMI SERVE LA TESTA

Cosa resta dell’uomo 
in un mondo fondato 
sui big data?

Diversi ricercatori criticano l’attuale ossessione per il pensiero computazionale e sostengono invece lo studio della filosofia e della poesia. 

Solo la capacità di dare senso alle nostre azioni ci salverà dall’omologazione. 

Ecco perché le discipline umanistiche “governeranno” il digitale.

di SIMONE PALIAGA

«In quale situazione di grande svantaggio potremmo finire, noi e il mondo, se costringessimo le nostre menti ad affrontare tutti i problemi allo stesso modo», si chiede Josh M. Olejarz sulla “Harvard Business Review” dello scorso agosto in un articolo titolato esplicitamente “ Liberal Arts in Data Age”.

E sì! Un mondo ad altezza di algoritmi, pensiero computazionale e big data non potrebbe essere che un mondo a senso unico. Se ne avvede anche la prestigiosa rivista di management di una delle università faro del liberismo. A sottrarci a questa deriva sarebbero, secondo Oleajarz, filosofia, letteratura e poesia. Oggi in effetti non c’è azione o comportamento che non sia guidato da un algoritmo o tradotto in una serie di istruzioni meccanicisticamente risolvibili. In una realtà dove tutto è codificato, declinato in protocolli e interpretabile da algoritmi cosa resterebbe dell’uomo?

Nel 1956 Günther Anders definì l’essere umano al tempo delle tecno- logie diffuse come antiquato. Con questa espressione intendeva dire obsoleto, incapace di rimanere al passo con la “performatività” pretesa dal funzionamento delle tecnologie. Con azioni e comportamenti umani istantaneamente processati, anticipati o condizionati da algoritmi, vale a dire da una sequela di istruzioni preconfezionate, che spazio rimane all’imprevisto e dunque alla libertà degli uomini? Olejarz non esita a mettere sotto accusa l’attuale ossessione per il coding, il pensiero computazionale, e per le cosiddette Stem (acronimo di Science, Technology, Engineering and Mathematics). Se trionfassero tutto il mondo adotterebbe le stesse strategie di pensiero e ragionerebbe alla stessa maniera. E non sarebbe certo uno spettacolo edificante vedere miliardi di uomini trovare le stesse soluzioni a problemi uguali.

Gli dà ragione Scott Hartley con il suo The Fuzzy and the Techie (Houghton Mifflin Harcourt, pagine 304, euro 16,99) il cui sottotitolo è sufficientemente esplicito: perché le discipline umanistiche governeranno il mondo digitale. Dall’esigenza di superare la dicotomia tra i nerd delle tecnologie e i secchioni umanisti (questione trita e ritrita dai tempi di Snow) il venture capitalist ricava però un problema delicato. Il mondo di oggi è così complesso, interdipendente e volto a repentini cambiamenti che agli studenti non deve essere offerto un percorso formativo incentrato solo su discipline scientifiche. Al centro del curricolo di studi dovrebbero trovare posto filosofia e poesia, arte e letteratura. Alle discipline umanistiche spetterebbe il compito di rendere elastiche e flessibili le menti dei giovani, capaci così di prospettare soluzioni innovative e scenari controfattuali. Non si potrebbe spiegare altrimenti il successo del filosofo Stewart Butterfield a capo di Slack e cofondatore di Flickr. O di Jack Ma, al timone di Alibaba con un cursus studiorum di anglistica, e Susan Wojcicki, Ceo di YouTube dopo studi di storia e letteratura. O ancora di Brian Chesky, esperto di belle arti, che capitana Airbnb. «Naturalmente – precisa Hartley – non che non si abbia bisogno di esperti tecnici ma occorrono anche persone che comprendano i perché e i come del comportamento umano».

Eppure Hartley, probabilmente per formazione, motiva la difesa della filosofia e della letteratura mostrandone il peso nel successo economico. Diversa invece è la posizione di Gary Saul Morson e Morton Schapiro nel loro Cents and Sensibility( Princeton University Press, pagine 320, euro 22,50). Il docente di letteratura russa e l’economista della Northwestern University riabilitano la letteratura. Essa non sarebbe una disciplina residuale ma uno strumento per rendere aderenti alla realtà predizioni e analisi degli economisti. Anche perché l’homo oeconomicus, richiamato dalle scienze economiche, nella realtà non esiste. Letteratura e economia, «due culture, un fine comune: costruire un mondo – scrivono – che non attinga esclusivamente all’economia, alla medicina, all’ingegneria e alla scienza per rendere le vite solo più lunghe e prospere. Ma in cui le discipline umanistiche e le arti possano rendere quelle vite migliori. Integrare il rigore quantitativo, l’attenzione all’organizzazione e la logica economica con l’empatia, la prudenza e la saggezza proprie delle discipline umanistiche », è la via per sottrarsi ai diktat degli algoritmi.   

Se invece dovessero prevalere rischierebbe di sfuggirci il senso del nostro operare. E proprio Sensemaking si intitola il libro di Christian Madsbjerg (Hachette Books, pagine 240, euro 17,56) che difende «l’indispensabilità delle discipline umanistiche nell’epoca degli algoritmi». Secondo Madsbjerg la fissazione per i dati spesso maschera incredibili carenze con rischi per l’umanità. La devozione cieca ai numeri mette in pericolo le imprese, il mondo della scuola, i governi e le vite dei singoli. Solo la capacità di dare senso alle nostre azioni, il sensemaking appunto, proveniente da filosofia e poesia «insegna – ammonisce l’autore – a individuare cosa meriti la nostra attenzione e a stabilire cosa realmente conti».

Da Avvenire