domenica 2 aprile 2023

I.A. - UN PAPPAGALLO AMMAESTRATO


Alan Turing era consapevole che esiste una sostanziale differenza tra un comportamento intelligente e un’entità intelligente. E la IA esibisce un comportamento intelligente

- di  Vincenzo Ambriola 


Alan Turing è uno dei padri fondatori dell’informatica. Dopo aver completato gli studi al King’s College dell’Università di Cambridge e poi alla Princeton University, pubblicò un articolo in cui definì in maniera formale una macchina in grado di calcolare automaticamente, poi chiamata macchina di Turing. All’inizio della Seconda Guerra Mondiale partecipò attivamente al progetto di decrittazione dei messaggi usati dai tedeschi per coordinare le azioni di guerra.

Turing è conosciuto anche per aver dato un contributo concettuale agli studi sull’intelligenza artificiale. In un articolo del 1950 descrisse un esperimento per riconoscere in una macchina un comportamento intelligente, attribuibile a un essere umano. L’esperimento, chiamato test di Turing, prende spunto da un gioco dell’imitazione che prevede tre partecipanti: un uomo A, una donna B e un’altra persona C che deve stabilire, con una sequenza di domande, chi è l’uomo e chi è la donna. Il compito di A è ingannare C, mentre B deve aiutare C a individuare correttamente A e B. Le comunicazioni tra A, B e C avvengono mediante testi dattiloscritti. Nel test di Turing una macchina si sostituisce ad A. Se dopo un numero significativo di prove C riesce a capire chi è la donna e chi è l’uomo con una percentuale uguale a quella ottenuta eseguendo il test senza sostituire A con la macchina, allora si può affermare che la macchina esibisce un comportamento intelligente, indistinguibile da quello di un umano. Dopo la sua formulazione il test di Turing è stato ampiamente studiato e modificato, per tener conto degli sviluppi dell’informatica e dell’intelligenza artificiale.

È interessante notare che nell’articolo del 1950 Turing si era chiesto se le macchine pensano, arrivando alla conclusione che per rispondere a questa domanda si doveva prima definire il concetto di macchina intelligente. Turing era tuttavia consapevole del fatto che esiste una sostanziale differenza tra un comportamento intelligente (fenomenologico) e un’entità intelligente (ontologico). Analizzando le possibili obiezioni ai suoi ragionamenti, Turing parlava infatti di un “pappagallo ammaestrato” in grado di dialogare ma incapace di pensare.

Gli attuali risultati ottenuti dai sistemi basati sull’intelligenza artificiale generativa, tra i quali il più noto e utilizzato è chatGPT, fanno ritenere che siano in grado di superare agevolmente il test di Turing e che, quindi, esibiscano un comportamento intelligente. Tuttavia, come affermato da Gary Marcus (scienziato cognitivo coautore di “Rebooting AI”), è opinione corrente che in realtà essi siano solo capaci di ingannarci, esattamente come previsto dal gioco dell’imitazione che ispirò Turing.

 

In un articolo pubblicato il 3 febbraio 2023 su “Agenda Digitale” (“ChatGPT è matematica e non magia, ecco come funziona”) Nanni Bassetti spiega con accurati dettagli tecnici il funzionamento di questi sistemi. In estrema sintesi, dice Bassetti, si tratta di algoritmi che utilizzano una rete neurale generativa, precedentemente addestrata con un enorme archivio di frasi prodotte da umani. Le versioni più recenti, chiarisce Bassetti, utilizzano anche frasi sintetiche, generate da altre reti neurali a partire da frasi di natura umana. ChatGPT non è quindi un’entità intelligente ma un sofisticato algoritmo scritto da persone che hanno usato in maniera intelligente una rete neurale che è, a sua volta, un algoritmo. Insomma, il comportamento intelligente di chatGPT è il risultato dello sforzo congiunto di umani (OpenAI, un’azienda fondata nel 2015 e con sede a San Francisco) che l’hanno ideato, progettato, realizzato e addestrato fino a quando ha funzionato come previsto. Ora che chatGPT è pubblicamente disponibile, la fase di addestramento sta coinvolgendo un gran numero di persone che usandolo e correggendolo lo fanno evolvere e migliorare, fornendo informazioni che non erano disponibili a OpenAI.

Torniamo al test di Turing e riflettiamo sul perché fu formulato in questi termini. Nel 1950 i pochi calcolatori esistenti erano in grado di svolgere calcoli in settori molto limitati: crittografia e calcolo scientifico. L’idea che sarebbero diventati veloci e potenti come quelli attuali era pura fantascienza, teoricamente raggiungibile ma a quel tempo impossibile. Pensare che un calcolatore sarebbe stato in grado di dialogare con un umano era ritenuto un risultato eccezionale e Turing si basò su questa assunzione per formulare il suo test. Le sue idee ispirarono gli scienziati che nell’agosto 1955 scrissero il primo manifesto dell’intelligenza artificiale, basato sulla congettura che «in linea di principio, ogni aspetto dell’apprendimento o qualsiasi tipo di intelligenza possano essere descritte con tale precisione da rendere possibile la costruzione di una macchina in grado di simularle».

Questo approccio emulativo, e soprattutto ingannevole, non è più accettabile perché adesso è chiaro che l’intelligenza di un’entità, sia umana che artificiale, è una caratteristica intrinseca e non soltanto un fenomeno comportamentale. Non è un caso che Emily Bender, direttrice del Laboratorio di linguistica computazionale dell’Università di Washington, in un’intervista alla "Repubblica" abbia dichiarato che «ChatGPT è poco più di un pappagallo: è un “pappagallo stocastico”, nel senso che, quando ci risponde, non ripete in maniera pedissequa le frasi su cui è stato allenato, come i pappagalli veri, ma mette insieme le parole seguendo una distribuzione di probabilità». Questa tesi è sostenuta anche da Alessandro Lenci, professore di linguistica computazionale dell’Università di Pisa, in un articolo in corso di stampa sulla rivista Sistemi intelligenti.

Che ci fossero di mezzo i pappagalli l’aveva intuito Turing più di settant’anni fa. L’8 giugno 1954 Alan Turing si suicidò, dopo essere stato condannato da un tribunale inglese con l’accusa di omosessualità e aver preferito la castrazione chimica alla prigione. Una morale arcaica uccise un genio che avrebbe potuto cambiare la storia dell’umanità.

 

www.avvenire.it 

Nessun commento:

Posta un commento