A.I. Dilemmi morali dell’uomo che, dalla ruota in poi, cerca sempre automazione
di GIUSEPPE LO TORTO
Utilità
Le conseguenze positive
sono evidentissime e lì utilità è innegabile. Utilità che si riflette
inevitabilmente anche sulla capacità di sostituire alcune (quante?) attività
dell’uomo. Ciò peraltro in coerenza, fin dall’invenzione della ruota e forse
anche prima, con la naturale tendenza dell’uomo all’automazione, al fine di
ottimizzare il rendimento del proprio lavoro . Non mi dilungo sulle diverse
forme di automazione consentite da A.I., fino agli odierni robot con
comportamenti umanoidi. A proposito di ROBOT non posso non ricordare i romanzi
di Isaac AZIMOV letti in gioventù, nei quali l’autore sviluppava egregiamente
proiezioni future di fenomeni a quell’epoca immaginari. Rimandando ad una
ricerca, proprio su A,I, che ho dovuto effettuare anch’io perché non mi ritrovo
più neppure uno di quei romanzi che a suo tempo ho letto con grande interesse,
riporto un aspetto che mi sembra assai importante per le possibili conseguenze
di una “automazione” generale (se non totale). Mi riferisco in particolare al
conflitto fra tre leggi della robotica, come trattato da Asimov, che riporto
così come A.I. me lo ha restituito. Il conflitto tra le Tre Leggi della
Robotica è uno dei temi centrali della narrativa di Asimov: i robot sono
programmati per seguire tre principi gerarchici, ma in molte situazioni reali
queste leggi entrano in collisione logica, creando comportamenti anomali o
paradossali.
CONFLITTO TRA TRE LEGGI
Il conflitto nasce perché
le leggi sono rigide, ma il mondo non lo è. Quando un robot deve applicarle in
situazioni complesse, può trovarsi davanti a ordini incompatibili. Le Tre
Leggi sono:
1. Non danneggiare un
essere umano.
2. Obbedire agli ordini
umani, salvo conflitto con la Prima.
3. Proteggere la
propria esistenza, salvo conflitto con le prime due.
Il conflitto tipico è:
• un ordine umano (Seconda Legge) che potrebbe causare danno a qualcuno → il
robot deve disobbedire;
• proteggere sé stesso
(Terza Legge) ma solo finché non mette a rischio un umano;
• situazioni dove “danno” è ambiguo: fisico? psicologico? futuro? probabile?
Asimov costruisce intere
trame su queste ambiguità, mostrando che anche regole perfette generano
paradossi quando applicate alla realtà.
Esempi celebri di
conflitto
• Runaround (Circolo vizioso) — un robot resta intrappolato in un loop logico
tra Seconda e Terza Legge.
• Bugiardo! — un robot
telepatico mente per non causare danno emotivo (Prima Legge), generando un
paradosso.
• I robot e l’Impero —
nasce la Legge Zero, che protegge l’umanità nel suo complesso, an-che contro
singoli individui.
Legge Zero
Asimov introduce una
legge superiore: 0. Un robot non può danneggiare l’umanità nel suo in-sieme.
Questa legge può entrare in conflitto con la Prima: salvare l’umanità può
richiedere sacri-ficare un singolo individuo.
SINTESI
Il “conflitto delle Tre
Leggi” è il cuore della robotica di Asimov: regole perfette che, applicate a
casi complessi, generano dilemmi morali, logici e narrativi. Trattasi di
situazioni che all’epoca delle pubblicazioni di Asimov (anni 50-60 circa)
apparivano del tutto romanzesche ma che, alla luce degli sviluppi esponenziali
dell’automazione, appaiono oggi del tutto realistiche. Mi viene mente un
esempio applicabile alla guida automatica di un’autovettura: dovendo evitare
l’investimento di una persona che si proietta dal marciapiede sulla strada per
soccorrere un’altra persona caduta sull’asfalto e giacente sulla traiettoria
dell’autovettura, quale delle due persone il robot alla guida dovrà decidere di
evitare?. Ovvio che il dilemma si porrebbe anche se alla guida ci fosse un
“umano” il quale, però, dispone di tempi di reazione “umani” che in certe
condizioni possono influenzare una scelta di tipo istantaneo. Scelta che il
robot non può comunque effettuare in quanto la prima legge gli impone di non
danneggiare un essere umano; quindi, si trova nella impossibilità di
intervenire in quanto salvare l’uno comporterebbe l’investimento dell’altro.
Credo infine che il fenomeno A,I, assolutamente ineluttabile, possiamo soltanto
tentare di contenerlo controllandone gli effetti potenzialmente, laddove
residui qualche margine di intervento ancora definibile come “Intelligente”.
