A.I. DILEMMI MORALI

 

A.I. Dilemmi morali dell’uomo che, dalla ruota in poi, cerca sempre automazione

di GIUSEPPE LO TORTO

 Ormai simo tutti capaci di “attingere” informazioni dalla cosiddetta Intelligenza Artificiale (“A.I.”), effettivamente ottimo strumento per reperire dati, informazioni e fatti storici che diversamente non troveremmo su enciclopedie e libri ormai tristemente in estinzione. A.I. è indubitabilmente uno strumento di grande utilità, capace di rappresentare la capacità di accedere a tutto lo scibile, senza possibilità di immediata smentita (almeno fino ad oggi). Ritengo tuttavia, ma certamente non sono il solo a pensarlo, che più che di “Intelligenza” si debba trattare di un potentissimo “Motore di Ricerca” capace di eseguire miliardi di cicli in un secondo (il dato a mia conoscenza che risale all’anno scorso, è di 3 mld/sec).

Utilità

Le conseguenze positive sono evidentissime e lì utilità è innegabile. Utilità che si riflette inevitabilmente anche sulla capacità di sostituire alcune (quante?) attività dell’uomo. Ciò peraltro in coerenza, fin dall’invenzione della ruota e forse anche prima, con la naturale tendenza dell’uomo all’automazione, al fine di ottimizzare il rendimento del proprio lavoro . Non mi dilungo sulle diverse forme di automazione consentite da A.I., fino agli odierni robot con comportamenti umanoidi. A proposito di ROBOT non posso non ricordare i romanzi di Isaac AZIMOV letti in gioventù, nei quali l’autore sviluppava egregiamente proiezioni future di fenomeni a quell’epoca immaginari. Rimandando ad una ricerca, proprio su A,I, che ho dovuto effettuare anch’io perché non mi ritrovo più neppure uno di quei romanzi che a suo tempo ho letto con grande interesse, riporto un aspetto che mi sembra assai importante per le possibili conseguenze di una “automazione” generale (se non totale). Mi riferisco in particolare al conflitto fra tre leggi della robotica, come trattato da Asimov, che riporto così come A.I. me lo ha restituito. Il conflitto tra le Tre Leggi della Robotica è uno dei temi centrali della narrativa di Asimov: i robot sono programmati per seguire tre principi gerarchici, ma in molte situazioni reali queste leggi entrano in collisione logica, creando comportamenti anomali o paradossali.

CONFLITTO TRA TRE LEGGI

Il conflitto nasce perché le leggi sono rigide, ma il mondo non lo è. Quando un robot deve applicarle in situazioni complesse, può trovarsi davanti a ordini incompatibili. Le Tre Leggi sono:

1.⁠ ⁠Non danneggiare un essere umano.

2.⁠ ⁠Obbedire agli ordini umani, salvo conflitto con la Prima.

3.⁠ ⁠Proteggere la propria esistenza, salvo conflitto con le prime due.

Il conflitto tipico è:

•⁠ ⁠un ordine umano (Seconda Legge) che potrebbe causare danno a qualcuno → il robot deve disobbedire;

•⁠ ⁠proteggere sé stesso (Terza Legge) ma solo finché non mette a rischio un umano;
•⁠ ⁠situazioni dove “danno” è ambiguo: fisico? psicologico? futuro? probabile?

Asimov costruisce intere trame su queste ambiguità, mostrando che anche regole perfette generano paradossi quando applicate alla realtà.

Esempi celebri di conflitto

•⁠ ⁠Runaround (Circolo vizioso) — un robot resta intrappolato in un loop logico tra Seconda e Terza Legge.

•⁠ ⁠Bugiardo! — un robot telepatico mente per non causare danno emotivo (Prima Legge), generando un paradosso.

•⁠ ⁠I robot e l’Impero — nasce la Legge Zero, che protegge l’umanità nel suo complesso, an-che contro singoli individui.

Legge Zero

Asimov introduce una legge superiore: 0. Un robot non può danneggiare l’umanità nel suo in-sieme. Questa legge può entrare in conflitto con la Prima: salvare l’umanità può richiedere sacri-ficare un singolo individuo.

SINTESI

Il “conflitto delle Tre Leggi” è il cuore della robotica di Asimov: regole perfette che, applicate a casi complessi, generano dilemmi morali, logici e narrativi. Trattasi di situazioni che all’epoca delle pubblicazioni di Asimov (anni 50-60 circa) apparivano del tutto romanzesche ma che, alla luce degli sviluppi esponenziali dell’automazione, appaiono oggi del tutto realistiche. Mi viene mente un esempio applicabile alla guida automatica di un’autovettura: dovendo evitare l’investimento di una persona che si proietta dal marciapiede sulla strada per soccorrere un’altra persona caduta sull’asfalto e giacente sulla traiettoria dell’autovettura, quale delle due persone il robot alla guida dovrà decidere di evitare?. Ovvio che il dilemma si porrebbe anche se alla guida ci fosse un “umano” il quale, però, dispone di tempi di reazione “umani” che in certe condizioni possono influenzare una scelta di tipo istantaneo. Scelta che il robot non può comunque effettuare in quanto la prima legge gli impone di non danneggiare un essere umano; quindi, si trova nella impossibilità di intervenire in quanto salvare l’uno comporterebbe l’investimento dell’altro. Credo infine che il fenomeno A,I, assolutamente ineluttabile, possiamo soltanto tentare di contenerlo controllandone gli effetti potenzialmente, laddove residui qualche margine di intervento ancora definibile come “Intelligente”.

Giovanni Pepi.it

INTELLIGENZA ARTIFICIALE e SENSO DEL LIMITE

 «La nostra vita è esistere 

non funzionare come una macchina» 

LO PSICOANALISTA RICHIAMA AI CONCETTI DI ORGANISMO E LIMITE

 

-di STEFANO FILIPPI

 Miguel Benasayag, argentino di nascita e francese di adozione, è psicanalista e neurofisiologo, lavora in particolare sui problemi dell’infanzia e dell’adolescenza e da anni studia i cambiamenti della rivoluzione digitale e il loro impatto sull’uomo. Il rischio che, con lo sviluppo dell’Intelligenza artificiale, l’essere umano venga ridotto a una somma di funzioni è alto, dice. Ma «la vita dell’uomo è esistere, non funzionare come una macchina». Che cosa resta dell’uomo dopo avere delegato certe funzioni alle macchine? «Rimane tutto». Perché l’uomo è «irriducibile agli elementi e ai processi» di cui è fatto. E il transumanesimo che vagheggia un uomo privo di limiti? «Teorie deliranti».

 L’impatto dell’Intelligenza artificiale è stato paragonato a quello della Rivoluzione industriale. Allora l’automazione tolse all’uomo mansioni manuali, ora l’IA gli sottrae parte dell’attività intellettuale. Cos’è allora l’uomo? Non c’è il rischio di definirlo come ciò che resta dopo essersi messo nelle mani delle macchine?

 Questa è la tentazione. Ma noi dobbiamo dire chi è l’uomo in positivo, non dopo che la macchina l’ha spogliato. Oggi l’essere umano è definito come una somma di parti. È un punto di vista debole, originato da una concezione filosofica “modulare” che non considera la differenza fondamentale tra un aggregato e un organismo. Un aggregato è una somma di funzioni, l’organismo viceversa è un’entità unitaria e non si definisce semplicemente per il suo modo di funzionare. Ogni parte di un organismo funziona in base a un doppio principio: secondo la propria natura, ma anche secondo la natura dell’intero organismo. Le macchine possono fare un sacco di cose, possono affascinare o fare paura. Ma il problema di fondo è ricomprendere la differenza tra organismo e artefatto, la singolarità particolare del vivente.

 L’unitarietà dell’uomo, il suo vero “io”.

 L’uomo è un essere unitario, irriducibile agli elementi e ai processi da cui è composto, che però non è concepibile in modo autonomo. Un organismo partecipa alla vita in quanto ha relazioni e appartiene a una specie che dura nel tempo.

 Le piace la parola “intelligenza” per quella che ormai chiamiamo “intelligenza artificiale”?

 Non tanto. La macchina non è intelligente in sé: può prevedere, calcolare, fare un sacco di operazioni, ma l’intelligenza per il vivente – non solo per l’essere umano – è sempre una questione di integrazione tra il cervello e la realtà, non solo la capacità di fare calcoli buoni. La razionalità dell’intelligenza artificiale è molto povera. Per esempio, non può accettare la negatività inerente alla vita, o il fatto che i corpi sono desideranti, sono sottomessi alle pulsioni, non agiscono in modo sempre positivo. Già trent’anni fa, quando cominciai con questi studi, scrissi che parlavamo troppo di “intelligenza” relativa alle macchine, e questo avrebbe avuto conseguenze negative.

 Come la chiamerebbe?

 Sono artefatti interessanti. Macchine. Viceversa, a forza di parlare di intelligenza e vita artificiale, oggi abbiamo una concezione artificiale della vita biologica. Il discorso è stato capovolto. Nel mio campo di ricerca, la maggioranza dice che tra l’intelligenza e la vita artificiale e quella biologica e culturale c’è un’identità di natura mentre la differenza è solo quantitativa. Io dico l’opposto, cioè che c’è una differenza qualitativa, ma questo è molto difficile da affermare nel campo scientifico, dove si ragiona solo in termini di misurabilità, e quelli come me sono considerati come idealisti, “vitalisti”, che vogliono inserire un elemento non scientifico nella definizione della vita.

 Nei suoi studi lei ha sempre fatto un elogio del limite. L’uomo può sbagliare e ha il senso del suo limite, la macchina no.

È così. Per me il limite non ha un’accezione negativa: è quello che definisce il mio modo di essere nel mondo. Siamo limitati perché abbiamo punti di vista, affetti, responsabilità, che sono la condizione della vita. Al contrario, è antiscientifico programmare una macchina con qualche limite: la macchina deve sempre funzionare perfettamente.

 Una vita senza limite è il mito del mondo contemporaneo.

Sembra incredibile, ma tutte queste deliranti teorie transumanistiche, che parlano di una vita senza limite, hanno un ascolto vastissimo. L’idea che i limiti sono arbitrari è una pazzia assoluta.

 Come si spiega il successo di queste teorie?

La vita quotidiana ne è intrisa. La rimozione del limite è alla base, per esempio, del neoliberalismo che vuole deregolare e deterritorializzare tutto.

 Deterritorializzare?

Per esempio, a me piace mangiare i frutti di stagione del mio territorio. Ma c’è chi vuole quei frutti tutto l’anno ed è disposto a farli arrivare dall’estero, oppure impiegare enormi quantità di acqua per coltivarli in località inadatte ma più vicine. Tuttavia, se io dico che questo ha poco senso, che la vita è fatta di cicli, di ritmi e anche di riti, non ho spazio nella postmodernità. Sono considerato un oscurantista perché voglio porre dei limiti. La deterritorializzazione parte dall’idea che l’essere umano non deve accettare nessun limite. E questo è suicidario.

 L’uomo di oggi rifiuta i limiti anche perché non riconosce più di essere stato creato?

L’uomo si ritiene fatto come una macchina. Perché subire il limite dell’organicità? Questa domanda, trent’anni fa, la facevano solamente gli psicotici e i servizi di psichiatria: perché devo accettare il limite, perché devo accettare di morire? Oggi il sentire comune è questo: i limiti sono confini arbitrari. E abbiamo per le mani una potenza enorme, fantastica, ma siccome non sappiamo addomesticarla, per il momento essa provoca cambiamenti che non padroneggiamo.

 Le macchine vanno fermate?

Impossibile. Non si può guardare il futuro con un retrovisore. In realtà siamo già ibridati, anche se non ce ne rendiamo conto. Un’ibridazione non anatomica ma fisiologica, di funzionamento. Ho lavorato anni per capire l’influenza degli apparecchi digitali sul cervello ed è stato facilissimo vedere come è cambiata la struttura cerebrale di chi delega alcune funzioni al navigatore satellitare Gps.

 Se alcune facoltà si perdono, ce ne sono altre che vengono migliorate?

Non è possibile. Il sistema nervoso centrale delega alcune funzioni e ricicla la regione cerebrale liberata. Sono processi lentissimi, lunghi anche centinaia di anni, che però nell’immediato provocano un’atrofizzazione.

 Vuol dire che l’Intelligenza artificiale può provocare un’ottusità naturale?

Un indebolimento, certo. Lo vediamo anche nei bambini che passano molto tempo con i videogiochi o davanti a uno schermo. Non per niente i geni della Silicon Valley mandano i figli a scuola senza computer e fanno studiare loro latino e greco. La neurofisiologia dice che prima dei tre anni non dobbiamo mettere i bambini davanti agli schermi. Ma le famiglie non ne sono al corrente.

 Allora le macchine sono nostre nemiche?

No. Ma bisogna conoscerle e ristabilire un’alterità. Perdere questa distinzione è pericolosissimo. La vita dell’uomo è esistere, non funzionare come una macchina. Che cosa resta dell’uomo dopo avere delegato certe funzioni alle macchine? Rimane tutto. Semplicemente dobbiamo imparare a esistere, coabitando con questa nuova potenza che, non avendone noi il pieno controllo, può essere pericolosa.

 Qual è dunque il nostro compito?

La cosa fondamentale è capire che dobbiamo sapere identificare che cosa noi siamo e riconquistare il terreno lasciato alla macchina. L’invenzione dell’ascensore non ci ha tolto la possibilità e il gusto di camminare.

 Tuttavia, oggi spesso si viene misurati in base alla performance. La macchina corre e l’uomo deve stare al passo.

L’estetica attuale è di diventare una macchina sempre più performante. Dunque, la felicità sarebbe da un lato non fare niente mentre la macchina fa tutto, e dall’altro funzionare come una macchina perdendo anche le angosce legate all’esistere e alla ricerca di senso. È una resistenza attiva che dobbiamo avere tutti, non contro la macchina ma contro la stupidità.

 www.avvenire.it

Immagine