A.I. DILEMMI MORALI

 

A.I. Dilemmi morali dell’uomo che, dalla ruota in poi, cerca sempre automazione

di GIUSEPPE LO TORTO

 Ormai simo tutti capaci di “attingere” informazioni dalla cosiddetta Intelligenza Artificiale (“A.I.”), effettivamente ottimo strumento per reperire dati, informazioni e fatti storici che diversamente non troveremmo su enciclopedie e libri ormai tristemente in estinzione. A.I. è indubitabilmente uno strumento di grande utilità, capace di rappresentare la capacità di accedere a tutto lo scibile, senza possibilità di immediata smentita (almeno fino ad oggi). Ritengo tuttavia, ma certamente non sono il solo a pensarlo, che più che di “Intelligenza” si debba trattare di un potentissimo “Motore di Ricerca” capace di eseguire miliardi di cicli in un secondo (il dato a mia conoscenza che risale all’anno scorso, è di 3 mld/sec).

Utilità

Le conseguenze positive sono evidentissime e lì utilità è innegabile. Utilità che si riflette inevitabilmente anche sulla capacità di sostituire alcune (quante?) attività dell’uomo. Ciò peraltro in coerenza, fin dall’invenzione della ruota e forse anche prima, con la naturale tendenza dell’uomo all’automazione, al fine di ottimizzare il rendimento del proprio lavoro . Non mi dilungo sulle diverse forme di automazione consentite da A.I., fino agli odierni robot con comportamenti umanoidi. A proposito di ROBOT non posso non ricordare i romanzi di Isaac AZIMOV letti in gioventù, nei quali l’autore sviluppava egregiamente proiezioni future di fenomeni a quell’epoca immaginari. Rimandando ad una ricerca, proprio su A,I, che ho dovuto effettuare anch’io perché non mi ritrovo più neppure uno di quei romanzi che a suo tempo ho letto con grande interesse, riporto un aspetto che mi sembra assai importante per le possibili conseguenze di una “automazione” generale (se non totale). Mi riferisco in particolare al conflitto fra tre leggi della robotica, come trattato da Asimov, che riporto così come A.I. me lo ha restituito. Il conflitto tra le Tre Leggi della Robotica è uno dei temi centrali della narrativa di Asimov: i robot sono programmati per seguire tre principi gerarchici, ma in molte situazioni reali queste leggi entrano in collisione logica, creando comportamenti anomali o paradossali.

CONFLITTO TRA TRE LEGGI

Il conflitto nasce perché le leggi sono rigide, ma il mondo non lo è. Quando un robot deve applicarle in situazioni complesse, può trovarsi davanti a ordini incompatibili. Le Tre Leggi sono:

1.⁠ ⁠Non danneggiare un essere umano.

2.⁠ ⁠Obbedire agli ordini umani, salvo conflitto con la Prima.

3.⁠ ⁠Proteggere la propria esistenza, salvo conflitto con le prime due.

Il conflitto tipico è:

•⁠ ⁠un ordine umano (Seconda Legge) che potrebbe causare danno a qualcuno → il robot deve disobbedire;

•⁠ ⁠proteggere sé stesso (Terza Legge) ma solo finché non mette a rischio un umano;
•⁠ ⁠situazioni dove “danno” è ambiguo: fisico? psicologico? futuro? probabile?

Asimov costruisce intere trame su queste ambiguità, mostrando che anche regole perfette generano paradossi quando applicate alla realtà.

Esempi celebri di conflitto

•⁠ ⁠Runaround (Circolo vizioso) — un robot resta intrappolato in un loop logico tra Seconda e Terza Legge.

•⁠ ⁠Bugiardo! — un robot telepatico mente per non causare danno emotivo (Prima Legge), generando un paradosso.

•⁠ ⁠I robot e l’Impero — nasce la Legge Zero, che protegge l’umanità nel suo complesso, an-che contro singoli individui.

Legge Zero

Asimov introduce una legge superiore: 0. Un robot non può danneggiare l’umanità nel suo in-sieme. Questa legge può entrare in conflitto con la Prima: salvare l’umanità può richiedere sacri-ficare un singolo individuo.

SINTESI

Il “conflitto delle Tre Leggi” è il cuore della robotica di Asimov: regole perfette che, applicate a casi complessi, generano dilemmi morali, logici e narrativi. Trattasi di situazioni che all’epoca delle pubblicazioni di Asimov (anni 50-60 circa) apparivano del tutto romanzesche ma che, alla luce degli sviluppi esponenziali dell’automazione, appaiono oggi del tutto realistiche. Mi viene mente un esempio applicabile alla guida automatica di un’autovettura: dovendo evitare l’investimento di una persona che si proietta dal marciapiede sulla strada per soccorrere un’altra persona caduta sull’asfalto e giacente sulla traiettoria dell’autovettura, quale delle due persone il robot alla guida dovrà decidere di evitare?. Ovvio che il dilemma si porrebbe anche se alla guida ci fosse un “umano” il quale, però, dispone di tempi di reazione “umani” che in certe condizioni possono influenzare una scelta di tipo istantaneo. Scelta che il robot non può comunque effettuare in quanto la prima legge gli impone di non danneggiare un essere umano; quindi, si trova nella impossibilità di intervenire in quanto salvare l’uno comporterebbe l’investimento dell’altro. Credo infine che il fenomeno A,I, assolutamente ineluttabile, possiamo soltanto tentare di contenerlo controllandone gli effetti potenzialmente, laddove residui qualche margine di intervento ancora definibile come “Intelligente”.

Giovanni Pepi.it