Dobbiamo imparare a far pace con l’intelligenza artificiale

di RENZO BEGHINI

Quali saranno le conseguenze delle nuove tecnologie digitali? E quale impatto avranno sulla vita degli individui e della società, sulla stabilità internazionale e sulla pace? Sono le domande da cui parte il messaggio di papa Francesco per la 57ª Giornata mondiale della pace. Il testo, non sempre di facile lettura, inizia con un sano realismo: “Ci rallegriamo e siamo riconoscenti per le straordinarie conquiste della scienza e della tecnologia”.

Allo stesso tempo, “i progressi tecnico-scientifici, rendendo possibile l’esercizio di un controllo finora inedito sulla realtà, stanno mettendo nelle mani dell’uomo una vasta gamma di possibilità, alcune delle quali possono rappresentare un rischio per la sopravvivenza e un pericolo per la casa comune”. La ricerca scientifica e le innovazioni tecnologiche non sono neutrali, ma hanno sempre una dimensione etica, strettamente legata alle decisioni di chi la progetta e la indirizza.

Sono almeno quattro gli ambiti di rischio nell’utilizzo dell’intelligenza artificiale. Anzitutto il machine learning. Le macchine che imparano da sole, sollevano questioni che trascendono gli ambiti della tecnologia e hanno a che fare con processi e valutazioni strettamente legate al significato della vita umana. Il tema è la capacità degli algoritmi di possedere criteri di giudizio e di prendere decisioni (anche etiche). Ma “tale capacità non può essere ridotta alla programmazione di una macchina che, per quanto ‘intelligente’, rimane pur sempre una macchina”.

Gli algoritmi hanno dimostrato di essere imbattibili nel gioco degli scacchi, i calcolatori hanno raggiunto potenze computazionali che gli umani non potranno mai esibire neanche in un millennio di calcolo manuale. Eppure, è netta la distinzione “ontologica” tra le macchine e l’essere umano. L’unicità della persona non può essere identificata con un insieme di dati.

In secondo luogo, la grande quantità di dati analizzati dalle intelligenze artificiali non è di per sé garanzia di imparzialità. Quando si parla di tecnologie così trasformative, ossia di macchine che da sintattiche diventano semantiche (nel senso che “creano” significati, simboli e linguaggi), lo sguardo tecnico non è più sufficiente. L’abilità di alcuni dispositivi nel produrre testi sintatticamente e semanticamente coerenti non è garanzia di affidabilità. Le macchine “intelligenti” possono svolgere i compiti loro assegnati con sempre maggiore efficienza, ma lo scopo e il significato delle loro operazioni continueranno a essere determinati da esseri umani.

Un terzo ambito riguarda il tema dell’accountability, vale a dire dell’attribuzione di responsabilità all’uomo piuttosto che alla macchina. In alcuni contesti, come ad esempio i sistemi di guida autonoma assistita, l’attribuzione della responsabilità agli esseri umani può avvenire coinvolgendo l’utente finale, come avviene quando il co-pilota è una persona. A volte però, come nel caso delle strategie di gestione di portafogli finanziari, gli algoritmi di intelligenza artificiale sono “imperscrutabili”, cioè assumono decisioni complesse sulla base di un’elevata mole di informazioni e con sofisticate tecniche di analisi tali da rendere impossibile o inefficiente una ricostruzione analitica del processo decisionale e una partecipazione dell’utente finale.

E da ultimo, non si può sfuggire alle gravi questioni etiche legate al settore degli armamenti e dei cosiddetti “sistemi d’arma autonomi letali”. La possibilità di condurre operazioni militari attraverso sistemi di controllo remoto ha portato a una minore percezione della devastazione da essi causata e della responsabilità “umana” del loro utilizzo. Il che pone grossi interrogativi sul riconoscimento del valore della vita umana.

In conclusione, l’intelligenza artificiale è una grande opportunità. Quando introduce innovazioni nell’agricoltura, nell’istruzione e nella cultura, quando promuove lo sviluppo umano integrale, favorisce un miglioramento del livello di vita di intere nazioni e popoli, la crescita della fraternità umana, dell’amicizia sociale e della pace. “Il modo in cui la utilizziamo per includere gli ultimi, cioè i fratelli e le sorelle più deboli e bisognosi, è la misura rivelatrice della nostra umanità”. Uno sguardo umano e il desiderio di un futuro migliore, portano alla necessità di un dialogo interdisciplinare finalizzato a uno sviluppo etico degli algoritmi (l’algor-etica) in cui siano i valori a orientare i percorsi delle nuove tecnologie. Da qui le conclusioni del messaggio: “La mia preghiera all’inizio del nuovo anno è che il rapido sviluppo di forme di intelligenza artificiale non accresca le troppe disuguaglianze e ingiustizie già presenti nel mondo, ma contribuisca a porre fine a guerre e conflitti”. Il tema della guerra e della pace, riprende il titolo della lettera che auspica un’intelligenza artificiale “etica” e “per la pace”, finalità che suona in noi come un’esortazione carica di energia e di responsabilità.