Per la filosofa francese «quando utilizziamo questi automi,
alcune aree cerebrali non vengono attivate e può crearsi una dipendenza»
-di SIMONE PALIAGA
Sviluppare tecnologie
contributive e non tecnologie che simulino il comportamento o i prodotti umani.
Ecco la sfida che individua e lancia Anne Alombert, filosofa che lavora
all’università di Paris-VIII e che si occupa dei rapporti tra tecnologia, vita
e mente, proseguendo le ricerche di Bernard Stiegler. Lo testimonia il libro La
stupidità artificiale. Per una politica delle tecnologie digitali (
pagine 124, euro 15,00). in libreria per l’editore Vita e Pensiero.
Nel suo libro,
professoressa, definisce l’intelligenza artificiale come
un pharmakon. Potrebbe spiegare in che modo queste tecnologie
agiscono al tempo stesso come un rimedio e come un veleno per le nostre facoltà
mentali e per le nostre culture collettive?
« Nella vita quotidiana,
i sistemi di IA generativa si presentano spesso come rimedi che consentono di
scrivere in modo più rapido o più efficace, oppure di produrre ogni sorta di
contenuti simbolici, testi, immagini, suoni... Tuttavia, questi utilizzi provocano
degli effetti sul nostro cervello e sulla nostra mente. Quando utilizziamo
questi automi, alcune aree cerebrali non vengono attivate e alcune funzioni
mentali vengono delegate, tanto che può crearsi una dipendenza. Gli utenti
perdono le loro capacità. Inoltre, i contenuti prodotti da questi sistemi
probabilistici rafforzano le medie e amplificano i bias. Essi sono spesso
stereotipati e standardizzati, a nocumento della diversità culturale e
simbolica. Si parla ormai di AI slop per indicare l’invasione
di Internet da parte di contenuti di scarsa qua-lità, che soffocano quelli
significativi e pertinenti».
Lei critica aspramente
l’uso di termini come “intelligenza”, “apprendimento” o “menti digitali” per
descrivere i software. Perché ritiene che questa antropomorfismo serva a
nascondere la responsabilità degli imprenditori della Silicon Valley?
« L’antropomorfizzazione
dei sistemi algoritmici tende a nascondere i processi tecnologici e industriali
che ne consentono il funzionamento, così come le decisioni di chi li ha
progettati e sviluppati. Nel caso dei grandi modelli linguistici, ad esempio, i
risultati ottenuti non sono neutri. Sono determinati dai dati di utilizzati nel training e
dal modo in cui sono stati addestrati e calibrati. Questi sistemi mettono
quindi in atto scelte ideologiche. Per esempio, se si pone una domanda di
geopolitica a ChatGpt, a Grok o a Deepseek non si otterranno gli stessi
risultati, non perché questi software pensino in modo diverso, ma perché sono
stati sviluppati e addestrati da imprenditori diversi secondo agende
ideologiche diverse».
Spesso consideriamo l’IA
come qualcosa di immateriale, ma lei mette in luce lo sfruttamento umano, i
“lavoratori del clic” del Kenya, e l’impatto ambientale devastante. In che
misura una tecnologia che consuma enormi quantità di acqua ed energia a scapito
delle comunità locali può essere considerato sostenibile?
« Il progetto dell’IA
generativa conversazionale, così come viene realizzato oggi, non sembra
sostenibile a lungo termine, né dal punto di vista sociale né da quello
ambientale. La sfida consiste piuttosto nel progettare e sviluppare modelli più
piccoli e specializzati, addestrati su set di dati controllati e in grado
di funzionare su server locali. Questi modelli più piccoli non potrebbero
rispondere a tutte le nostre domande né essere utilizzati su larga scala da
milioni di utenti, ma sarebbero piuttosto destinati a compiti specifici. Inoltre
sarebbero però anche molto più affidabili e molto più efficienti dal punto di
vista energetico».
Sam Altman sostiene che
l’unico limite alla creazione sarà avere buone idee, e non competenze
specifiche. Lei, invece, parla di miseria simbolica. In che modo ridurre l’arte
e la scrittura a semplici comandi, i cosiddetti prompt, impoverisce la nostra
capacità di creare opere e dare senso?
« I sistemi di
generazione automatica sono spesso presentati nei discorsi promozionali come
veicoli di democratizzazione della creatività, ma in realtà tendono a ridurre
il processo di creazione artistica a un comando linguistico, che
cortocircuita ogni pratica tecnica. Eppure la pratica tecnica è essenziale per
la produzione di un’opera. Inoltre, un creatore non conosce mai in anticipo il
risultato della propria creazione e raramente è in grado di formularlo a
parole, tanto meno sotto forma di prompt. Se un pittore o un musicista
conoscesse la propria opera in anticipo non avrebbe bisogno di crearla e questa
non apporterebbe nulla di nuovo!».
Applicazioni come Replika
promettono empatia, ma lei le definisce “oggetti anti-transizionali”. In che
modo queste applicazioni rischiano di isolarci in un riflesso di noi stessi,
impedendo il vero incontro con l’alterità e la crescita ?
«Questi compagni virtuali
forniscono una simulazione di alterità, ma in realtà ci propongono un
riflesso algoritmico di noi stessi, che deriva dai calcoli effettuati sulle
nostre richieste e sui nostri dati. Di conseguenza, scambiamo un riflesso
digitale per un’altra persona, al punto talvolta di innamorarcene, esattamente
come Narciso nel mito! Questa illusione narcisistica è rafforzata dal design di
questi servizi. Per esempio, con l’uso della prima persona singolare siamo
spinti ad antropomorfizzarli e il fatto che ci rispondano e ci lusinghino fa
leva sul nostro bisogno di riconoscimento per tenerci connessi. Si tende così a
sviluppare una dipendenza emotiva. Gli utenti rischiano quindi di chiudersi nei
loro chatbot, sempre disponibili e d’accordo con loro, e di desocializzarsi,
invece di correre il rischio di esporsi agli altri e lasciarsi trasformare
dalla diversità degli incontri».
Nonostante le critiche, lei cita esempi positivi come Wikipedia. Come si può fare in modo che l’IA passi dallo status di strumento sostitutivo a quello di supporto all’intelligenza collettiva?
« Alla fine del libro,
propongo diverse linee d’azione per limitare la tossicità dei dispositivi
esistenti, al fine di proteggere le menti individuali, le culture collettive e
i legami sociali. Fornisco inoltre diversi esempi di dispositivi digitali che non
mirano a imitare o automatizzare i comportamenti, ma a mettere in relazione gli
individui per cocreare conoscenze, discutere leggi, condividere pratiche di
mutuo aiuto, ecc. Ciò implica un cambiamento di paradigma tecno- economico,
passando dalla simulazione al contributo».
Nessun commento:
Posta un commento