Pubblichiamo l’intervento su “Etica e finanza al tempo dell’intelligenza artificiale” tenuto dal Funzionario Generale della Banca d’Italia, Gian Luca Trequattrini, alla Tavola Rotonda “Etica ed economia” presso La biblioteca della Fondazione Spadolini Nuova Antologia a Firenze.
«Il tema del rapporto fra l’etica – cioè l’applicazione alla vita pratica di principi morali (che possono derivare dalla religione o anche da una costituzione laica) – e la finanza è molto antico; in qualche modo sorprende che da millenni l’attività finanziaria sia materia di prescrizioni etiche, vagliate e dibattute da economisti e giuristi, filosofi e religiosi. In quello che resta ancor oggi uno dei più noti contributi accademici al tema, che si deve all’economista indiano Amartya K. Sen, Premio Nobel per l’economia nel 1998, (“Denaro e Valore: Etica ed Economia della Finanza”), si ripercorrono a ritroso la storia e la letteratura con diversi riferimenti (a Solone, Aristotele, Catone il censore, Polonio, Shylock) finendo per chiedersi: “Come è possibile che un’attività tanto utile sia stata giudicata così dubbia sotto il profilo etico?”.
Perché, in effetti, la finanza è un’attività utile, è parte integrante e necessaria dell’economia, si basa su un bene (il denaro) che è un elemento costitutivo della società; un bene però che rischia di indurre costantemente in tentazione chi lo maneggia. La tentazione di violare principi morali prima ancora che norme di legge. La stessa tentazione in cui può incorrere chi opera con un altro potente elemento costitutivo della società, la tecnologia.
La letteratura e la cinematografia che ne ha ripreso i capolavori indagano da tempo la complessa trama delle relazioni fra etica e tecnologia: pensiamo alla macchina che sfugge al controllo del suo programmatore e giunge a sviluppare sentimenti umani (odio, simpatia, istinto di sopravvivenza) come il computer Hal 9000 in Odissea nello spazio di Kubrick o come gli androidi della generazione Nexus 6 in Blade Runner di Scott. Molte di quelle intuizioni sono divenute realtà e dagli stessi creatori dei più avanzati prodotti tecnologici si levano preoccupazioni di ordine etico per lo sviluppo di programmi che possono, in prospettiva, fare a meno dell’intervento umano e riprodursi autonomamente, in cicli rapidissimi e in maniera opaca.
E qui arriva il punto che intendo sottoporre alla mia e alla vostra riflessione: come si pone il rapporto finanza – tecnologia dinanzi alle istanze dell’etica o, in altri termini, l’applicazione di tecnologie senza precedenti nella storia – quali intelligenza artificiale, blockchain e le loro molteplici declinazioni operative – può condizionare, e in che modo, la dimensione etica della finanza?
In passato il progresso tecnologico ha spesso avuto effetti dirompenti nel breve termine, ma si è rivelato alla lunga il motore del miglioramento della qualità della vita; ogni avanzamento della tecnologia ha tuttavia comportato opportunità e rischi, ponendo anche questioni di natura etica riguardanti, in particolare, i temi dell’equità sociale e della sostenibilità ambientale. I “salti” tecnologici, specie se pervasivi e rapidi, hanno messo in crisi i modelli organizzativi e causato la transizione dell’economia e della società verso una più equilibrata distribuzione dei benefici in termini di crescita e di benessere collettivo.
La forte accelerazione tecnologica degli ultimi anni ha permesso di utilizzare e gestire la grande mole di dati disponibili alle aziende per realizzare applicazioni con funzionalità sempre più simili all’intelligenza umana. Prendiamo il caso dell’Intelligenza Artificiale (IA), che crea sistemi capaci di imparare autonomamente nuovi concetti e attività, di riconoscere immagini e oggetti, di trarre conclusioni logiche e comprendere il linguaggio naturale.
In generale, i sistemi di IA funzionano grazie al fatto che riescono a processare enormi quantità di dati, definendo correlazioni e modelli per fare previsioni. È verosimile che l’Intelligenza Artificiale avrà un ruolo sempre più determinante nell’evoluzione delle nostre società, con impatti potenzialmente disruptive sul mondo del lavoro e sulle modalità di produzione e fruizione di prodotti e servizi. Secondo le previsioni contenute nel The Future of Jobs Report 2023 pubblicato dal World Economic Forum, con la diffusione dei sistemi di IA nei prossimi cinque anni verranno creati 69 milioni di nuovi posti di lavoro; al contempo, se ne perderanno 83 milioni.
Gli effetti dell’IA sono differenti da quelli prodotti dai progressi tecnologici che l’hanno preceduta nella storia; nell’Employment Outlook 2023 dell’OCSE si fa riferimento al fatto che consente anche l’automazione di attività non manuali, ridisegnando i processi produttivi in campi in cui finora l’intervento umano era considerato decisivo; si applica praticamente a tutti i settori economici e a tutte le professioni; ha una velocità di evoluzione senza precedenti nel passato. Le stime sulla percentuale dei posti di lavoro a rischio di essere automatizzati – il 50% nei principali paesi europei, inclusa l’Italia, secondo il centro studi Bruegel – colpiscono la fantasia, ma vanno prese con cautela. Vi è un’ovvia difficoltà di attribuire percentuali di rischio a lavori il cui contenuto può profondamente mutare anche grazie alla tecnologia; inoltre, alla perdita di determinate professioni corrisponderà probabilmente la nascita di nuove.
Si tratta di temi che tornano alla ribalta ogniqualvolta la tecnologia fa compiere un’evoluzione rapida e inattesa ai processi di produzione e alle procedure di lavoro: già Keynes – come ha ricordato il Governatore Visco – parlava di “disoccupazione tecnologica” come di uno dei fattori che possono aggravare le disuguaglianze, perché non è detto che il cambiamento sia equamente distribuito tra gruppi sociali e di reddito, con il rischio, appunto, di un declino asimmetrico delle opportunità di lavoro e di crescita salariale. La finanza può dirsi immune da questi effetti di sostituzione e di trasformazione strutturale indotti dalla tecnologia? A questo proposito faccio appello a una recente esperienza personale, quella di membro della Commissione incaricata di valutare i progetti che hanno aderito alla Call for Proposals 2022 di Milano Hub, il centro di innovazione creato dalla Banca d’Italia per sostenere l’evoluzione digitale del mercato finanziario italiano.
La Call di quest’anno era incentrata sull’applicazione della tecnologia basata sui registri distribuiti (Distributed Ledger Technology – DLT) ai servizi bancari, finanziari, assicurativi e di pagamento; ai progetti selezionati (14 su un totale di 57) la Banca si è impegnata a prestare – nel rispetto delle sue competenze e senza alcun sostegno finanziario – l’assistenza necessaria per consentirne la realizzazione. Tratto comune delle iniziative progettuali rassegnate era quello di costituire piattaforme per effettuare transazioni o scambiare informazioni senza la presenza diretta degli intermediari attraverso l’impiego diffuso della DLT, che rende possibile attestare se e quando si sia verificato un determinato scambio di valore tra coloro che la utilizzano, dispensando questi ultimi dal ricorso ai tradizionali meccanismi di certificazione utilizzati nei sistemi di pagamento, caratterizzati dalla necessità di un “terzo” garante (generalmente un’autorità centrale legittimata a svolgere la funzione di validazione delle transazioni).
Dal nostro esame è emerso come la crescente diffusione di soluzioni tecnologiche DLT rappresenti un terreno di confronto sfidante sia per gli operatori del mercato finanziario, impegnati nello sviluppo di prodotti innovativi, sia per le autorità di settore, chiamate a garantirne governance, trasparenza e accountability. Diversi sono stati i casi d’uso presentati: i) emissione di strumenti virtuali fungibili o meno (ad esempio, crypto‑asset o cripto-valute, tra cui stablecoin); ii) trasformazione di asset tradizionali, quali le obbligazioni, in asset virtuali non fungibili (cd. processo di tokenizzazione); iii) incontro diretto tra prenditori e prestatori di fondi con certificazione decentralizzata del merito creditizio o delle garanzie prestate (decentralised lending); iv) stipulazione ed esecuzione automatizzata di accordi fra le parti (smart contract). Le differenze tra la finanza tradizionale (TradFi) e quella decentralizzata (DeFi) hanno natura sia funzionale sia operativa.
Il sistema tradizionale è finalizzato all’allocazione efficiente delle risorse tra operatori economici in surplus e in deficit di mezzi finanziari a supporto delle attività produttive e degli investimenti: l’accesso al sistema è soggetto ad autorizzazione, le transazioni sono contabilizzate in registri privati e il loro regolamento avviene in modo sequenziale grazie all’intervento di intermediari. Il sistema decentralizzato è concepito invece per rendere prodotti e servizi finanziari e di pagamento accessibili a chiunque, si basa su tecnologie a registro distribuito in cui la catena rappresenta la “struttura” fisica mediante la quale le transazioni sono regolate immediatamente e non vi è necessità di intermediari o di un garante centrale. Nonostante ne siano chiare le caratteristiche, manca però a oggi una solida evidenza dei benefici che l’adozione della DLT è in grado di produrre in termini di efficienza e di sicurezza delle infrastrutture di mercato.
Vi sono poi altri importanti elementi costitutivi su cui i due sistemi divergono: la rilevanza della fiducia fra le parti, che è la pietra angolare della finanza tradizionale, ma non è una condizione necessaria nella DeFi; l’allocazione dei rischi, che è in capo agli intermediari autorizzati nella TradFi, ai singoli partecipanti alla rete nella DeFi; il fatto che gli operatori autorizzati nel sistema tradizionale siano sottoposti a supervisione da parte delle autorità. Le tipicità della finanza decentralizzata generano non solo nuove forme di rischio, ma anche modalità nuove e impreviste di insorgenza e allocazione dei rischi tradizionali; basti pensare al rilievo che assumono in ambito DeFi i rischi di natura tecnica, associati a malfunzionamenti del protocollo informatico e/o della tecnologia impiegata, o correlati all’abuso dei meccanismi di governance e di consenso della rete.
Infine, occorre sottolineare come l’allocazione dei rischi in capo al singolo partecipante della rete (in assenza di intermediari o garanti centrali) nonché le indispensabili competenze tecnologiche richiedano una certa padronanza della materia da parte degli utenti che si avvicinano alla DeFi, pena l’esposizione inconsapevole ai rischi e l’incapacità di gestirli. Le peculiarità della finanza decentralizzata implicano inoltre differenze regolamentari (laddove il sistema tradizionale è disciplinato da norme e regolamenti, nell’ambito DeFi domina quanto previsto dagli algoritmi informatici) con risvolti anche per la tutela dei soggetti “deboli” come consumatori o piccole e medie imprese, che spesso incontrano limiti di comprensione o di accesso a queste tecnologie più avanzate.
Il successo della tecnologia blockchain risulta in altri termini strettamente correlato con i sistemi di consenso sociale: la disintermediazione può esserne la logica conseguenza, quanto meno nell’ambito delle soluzioni che prevedono meccanismi di libera accessibilità (cd. permissionless DLT). Qui l’unica regola, infatti, è il codice del software: l’accettazione dello stesso crea il sistema e ne permette la sussistenza, le transazioni restano nella sfera dell’autonomia privata, non essendo possibile (o meglio, essendo difficilmente possibile) l’incursione di terzi in essa. Tuttavia, nonostante i propositi dichiarati di democrazia egualitaria che circondano questa tecnologia, si possono ancora riscontrare fattori di disuguaglianza che si celano dietro ai meccanismi di funzionamento propri della blockchain.
Infatti, uno dei maggiori problemi dei sistemi blockchain basati sulla Proof of Work1 (tra cui quella bitcoin) è che la capacità di calcolo richiesta è via via maggiore, per cui sono necessarie maggiori risorse per poter ambire alle forme di remunerazione che il sistema prevede per gli operatori (i cd miner). Si evince che anche nelle blockchain pubbliche l’elevato livello di democrazia, di libertà di accesso e disintermediazione teorizzato è molto difficile da raggiungere; l’accentramento sempre più forte delle capacità computazionali limita il libero accesso e svantaggia chi ha capacità di calcolo più modeste. Tutto ciò si ripercuote sulla democraticità del protocollo di consenso. Questa tendenza al monopolio (o all’oligopolio) è tipica di ogni blockchain che si basi sulla Proof of Work. Da un sistema
Il Proof-of-Work è l’algoritmo di consenso alla base della rete blockchain. In una blockchain, questo algoritmo viene utilizzato per confermare le transazioni e produrre i nuovi blocchi della catena. Un registro decentralizzato raccoglie ogni singola transazione: tuttavia, per poter essere considerate valide, queste devono essere prima approvate e organizzate in blocchi. Tale responsabilità ricade su speciali nodi chiamati miner; l’intero processo viene invece definito mining, che fa della libertà e della decentralizzazione la propria ragion d’essere, la blockchain rischia di diventare un sistema centralizzato “autocratico”, tutt’altro che democratico. L’inefficienza del meccanismo di consenso basato sulla Proof of Work sta portando all’affermazione di soluzioni di tipo diverso (cd. Proof of Stake), con caratteristiche di scalabilità (che esprime la capacità di aumentare o diminuire di scala in funzione delle necessità) e maggior velocità nell’eseguire le transazioni.
Se è ragionevole esprimere dubbi sulla capacità della blockchain di garantire a ogni partecipante di avere realmente le medesime possibilità degli altri, alcune applicazioni dell’IA possono nondimeno dare un contributo alla “democratizzazione della finanza”, secondo l’espressione coniata dal professor Robert Schiller, premio Nobel per l’economia nel 2013. Mi riferisco, in particolare, a quei processi (come crowd-funding, peer-to-peer lending, automated scoring, robo-advisor) che hanno le potenzialità per abbattere le barriere all’entrata che caratterizzano i settori degli investimenti, dei finanziamenti e del risparmio. In effetti, grazie soprattutto alla digitalizzazione dei servizi, questi sviluppi tecnologici possono rendere la finanza più inclusiva, più accessibile e, in definitiva, più equa, offrendo opportunità d’investimento e di guadagno anche a chi – per mancanza di adeguate disponibilità – sia tagliato fuori da queste opportunità.
Vale la pena di ricordare che alcune di queste formule operative hanno storicamente una chiara derivazione “etica”: la prima forma “classica” di crowd-funding, ad esempio, è quella donation-based, ossia un modello di donazione in cui chi propone una campagna di raccolta fondi riceve il denaro e, al massimo, offre ricompense simboliche, spesso intangibili. Un modo per devolvere altruisticamente risorse finanziarie a sostegno di quella che si giudica una buona causa. A fronte delle opportunità vi sono rischi, sui quali da più parti si richiama l’attenzione, che riguardano la governance degli algoritmi, la responsabilità dei provider tecnologici, la tutela della privacy.
Ai fini che interessano in questa sede ci si può chiedere, ad esempio, se sia etico commercializzare strumenti che consentono a qualunque soggetto, ancorché privo di educazione finanziaria, di operare come trader on line aprendo in pochi minuti un account su una delle piattaforme di broker disponibili sul mercato. Queste piattaforme utilizzano spesso come fonti di informazione e di scambio di opinioni i social network (e ciò pone l’esigenza di mitigare il rischio di ancorare le scelte a informazioni non accurate, fenomeno che gli informatici definiscono con il suggestivo termine di “allucinazioni”) e prospettano funzionalità (come il social trading) che permettono di copiare le strategie di investimento di trader esperti, producendo incentivi per ingenti investimenti da parte di operatori ancora poco esperti.
In questo senso, la spersonalizzazione della finanza può avere effetti devastanti, anche sul piano umano; è giusto ed etico evitare che solo i ricchi abbiano accesso al mercato finanziario, ma è di fondamentale importanza (e altrettanto etico) che vi sia una generale consapevolezza dei rischi che si corrono quando si fa ricorso a un algido algoritmo. Da sempre l’umanità ha progettato macchine per svolgere compiti gravosi, ma nel caso dell’IA la fatica che si intende risparmiare è quella di ragionare, seguendo il sogno di Leibniz, che nel 1671 immaginò una macchina per risolvere le dispute attraverso il calcolo. Ma delegare il processo decisionale alle applicazioni di IA può portare a una perdita di competenze e abilità personali, oltre a compromettere il controllo sui dati e sulla privacy.
C’è poi la difficoltà di attribuire la responsabilità in caso di errori o fallimenti dell’IA. Potremmo pensare che, se un errore in un sistema intelligente causa un danno, la responsabilità ricada sulle persone che hanno progettato l’algoritmo. Ma questo non è chiaro man mano che aumentano l’autonomia e la capacità decisionale dei sistemi intelligenti perché è difficile spiegare o tracciare la decisione presa dal sistema intelligente. Più l’algoritmo è complesso, più è complicato ricostruire il processo decisionale, e questo rende difficile individuare responsabilità.
Va quindi tenuto costantemente presente che se le macchine, elaborando i big data, riescono a estrarre informazioni che consentono di formulare previsioni sempre più accurate, sono gli esseri umani a doversi assumere la responsabilità delle scelte, perché non tutte le scelte possono essere ricondotte a decisioni algoritmiche. In questo senso mi piace chiudere citando il noto informatico tedesco Joseph Weizenbaum, che nel suo libro Computer Power and Human Reason del 1976, affermò che “choosing is the product of judgment, not calculation”».
