ETICA DI FRONTIERA

Paolo Benanti, le prossime sfide delle AI generative: ‘Etica di frontiera’

Negli ultimi anni, l’intelligenza artificiale

 sta attraversando una trasformazione significativa

di Paolo Benanti

Negli ultimi anni, l’intelligenza artificiale sta attraversando una trasformazione significativa: dal tradizionale modello di apprendimento basato esclusivamente su dati generati dall’uomo, si sta progressivamente orientando verso forme di apprendimento autonomo, in cui l’AI acquisisce competenze attraverso l’esperienza diretta e l’interazione con l’ambiente, sia esso reale o simulato.

Il successo delle AI generative (come i grandi modelli linguistici) si è fondato sull’addestramento su enormi quantità di dati prodotti da persone: articoli, libri, conversazioni, immagini e video. Questo approccio ha permesso di ottenere sistemi versatili e capaci di risolvere molteplici compiti, ma presenta limiti strutturali.

In particolare, in alcuni ambiti (ad esempio la matematica avanzata o la scienza computazionale), la conoscenza umana disponibile sta raggiungendo una soglia di saturazione: semplicemente aggiungendo nuovi dati umani, le prestazioni dei modelli non migliorano più in modo sostanziale. Per superare questi limiti, la ricerca si sta concentrando su modelli capaci di apprendere dall’esperienza, cioè attraverso l’interazione attiva con ambienti complessi.

In questo paradigma, l’AI non si limita ad “assorbire” dati passivamente, ma agisce, sperimenta, riceve feedback e adatta le proprie strategie in base ai risultati ottenuti.

Ma a questo livello, una prospettiva di frontiera come quella che caratterizza questo spazio, ci spinge a riconoscere che una maggiore autonomia comporta rischi significativi.

L’apprendimento per rinforzo, sebbene efficiente, per lo più, seguendo alcune osservazioni recenti, sembra affinare le capacità esistenti senza espandere realmente la capacità creativa di risoluzione dei problemi di un modello.[Dobbiamo infine] fare un’altra considerazione di frontiera. Questa spinta alla costituzione etica dell’AI, necessitata dalla potenza dei nuovi modelli, di fatto sembra “naturalmente” spingere verso qualcosa che si pone tra uno standard tecnico e una normativa.

In questo contesto, considerato la fatica che questo approccio presenta tanto per un contesto iper competitivo come quello statunitense quanto per la resistenza a delegare ad attività del basso che hanno sistemi monolitici come quelli cinesi, il nostro paese può offrire un ecosistema interessante: la tradizione cooperativa o delle unioni industriali che vedono la presenza di enti intermedi di cooperazione, la presenza di infrastrutture computazionali pubbliche come quelle del CINECA, possono fare la differenza.

Rimane solo di porsi alla frontiera e creare il minimo di consenso necessario per operare in una direzione di bene collettivo e bene comune. Anche questo appartiene ad un’etica di frontiera: riconoscere che il vantaggio dei singoli non può essere separato da un vantaggio integrale per il sistema paese.

 La Torre