di Gian Luca Conti
1 – Il punto di partenza di Luciani è una idea “catastrofica” del futuro. Lo sviluppo tecnologico, e, in particolare, lo sviluppo della intelligenza artificiale, si potrebbe sottrarre al controllo etico dell’uomo e potrebbe distruggere la stessa umanità, almeno come la conosciamo.
Di qui, il richiamo al concetto di “dislivello prometeico” (G. Anders, Die Antiquiertheit des Menschen. Über die Seele im Zeitalter der zweiten industrielle Revolution, München, 1956, trad. it. L’uomo è antiquato, vol. I, Torino, Bollati Boringhieri, 20032, part. 50).
L’approccio catastrofista, a ben vedere, si trova agganciato a un’antropologia del moderno in cui il principio liberale ha determinato il sorgere di un individualismo illimitato: l’uomo che crede solo in se stesso ma si chiude in comunità che si autoalimentano esclusivamente della propria cultura identitaria di talché la paura diventa il vettore di senso del legame sociale (in questi termini: E. Pulcini, La cura del mondo. Paura e responsabilità nell’età globale, Torino - Bollati Boringhieri, 2009).
È un circolo vizioso in cui l’homo faber di Anders è governato dalle proprie emozioni e la più forte di queste (la paura) lo conduce a produrre il proprio olocausto.
Questo tipo di catastrofismo si pone come una critica radicale alla cultura liberale una delle cui massimeè vivere pericolosamente: «Non c’è liberalismo senza cultura del pericolo» (M. Foucault, Naissance de la biopolitique: Cours au collège de France (1978-1979), Paris, Seuil, 2003, trad. it. Nascita della biopolitica. Corso al Collège de France (1978-1979), Milano, Feltrinelli, 2005, part. 68-69, su cui J. Donzelot, Michel Foucault et l’intelligence du liberalisme, in Esprit, 68, 2005, n. 10, pp. 56-74).
Il catastrofismo rivela la crisi dell’idea di Costituzione come strumento di apertura al possibile, secondo le intuizioni di Bataille (G. Bataille, Recensione a K. Jaspers, Nietzsche. Einführung in das Verständnis seines Philosophierens, Berlin 1936, in Id., La congiura sacra, Torino - Bollati Boringhieri, 1997, pp. 51-53, p. 52: «nella ricchezza del possibile, senza principio razionale, il contrario e il contraddittorio possono essere tentati, tentativo che obbedisce al solo principio della salvezza e della valorizzazione della condizione umana»).
La visione catastrofica di Anders è affascinante e scoraggiante: che spazio per il diritto costituzionale in un mondo in cui l’uomo rinnega la propria umanità perché ha imparato a farne a meno grazie all’aiuto di macchine sempre più complesse nei confronti delle quali soffre un complesso di inferiorità?
In Unione Sovietica si guardava con interesse e polemico senso di superiorità agli sviluppi delle scienze cibernetiche nei paesi del Patto Atlantico – l’intelligenza artificiale, come internet, nasce, nel clima della guerra fredda, dalle intuizioni matematiche di Turing e Oettinger ma anche dai lavori pionieristici sulla cibernetica di Licklider (J.C.R. Licklider, ‘Man–computer symbiosis’, IRE Transactions on Human Factors in Electronics, 1960, HFE-1, pp. 4–11, facilmente reperibile in rete) –: «L’intellighenzia tecnica occidentale è impigliata nel problema “uomo-macchina” perché non sa come formularlo adeguatamente; cioè come problema sociale, come problema del rapporto tra uomo e uomo, mediato dal corpo materiale della civiltà, compresa la moderna tecnologia meccanica della produzione» (Evald Ilyenkov, Aleksandr Arsen′ev and Vassily Davidov, Mashina i chelovek: kibernetika i filosofiya (Machine and human: cybernetics and philosophy), in Fedor Konstantinov (ed.), Leninskaya Teoriya Otrazheniya i Sovremennaya Nauka, Moscow: Nauka, 1966, pp. 265–83, cit. in O. Kirtchik, The Soviet scientific programme on AI: if a machine cannot ‘think’, can it ‘control’?, in Temi BHJS, 2023, 8, 111-125).
Il problema è come cambia il rapporto fra gli individui e fra l’uomo e l’ambiente che lo circonda quando tale rapporto è mediato da una macchina capace di risolvere problemi complessi.
Il conducente del furgone che ci ha consegnato gli ultimi libri che abbiamo acquistato online prova risentimento verso l’intelligenza artificiale, verso l’organizzazione sociale che lo costringe ad accettare quel lavoro o verso chi, con spregiudicata intelligenza tutta umana, ha saputo sfruttare la sua situazione di bisogno avvalendosi della tecnologia?
La risposta razionale è facile e spinge a considerare l’intelligenza artificiale come un problema di diritto costituzionale la cui peculiarità è la capacità di modificare in maniera rilevante i termini del contratto sociale.
2 – Con notevole approssimazione, è possibile definire l’intelligenza artificiale come un sistema capace di assorbire informazioni e di utilizzarle con una capacità di risolvere problemi il più possibile vicina a quella umana (in termini più ampi, ISO/IEC 42001:2023 Information technology - Artificial intelligence Management System (AIMS) definisce l'intelligenza artificiale come la capacità di un sistema di mostrare capacità umane quali il ragionamento, l'apprendimento, la pianificazione e la creatività).
Per essere precisi, si dovrebbe tracciare una genealogia del concetto di intelligenza artificiale (genealogia nel senso di M. Foucault, Hommage à Jean Hyppolite [“Nietzsche, la généalogie, l’histoire”, in Hommage à Jean Hyppolite, Paris – Presses Universitarie de France, 1971, pp. 145-172], trad. it., in M. Foucault, Microfisica del potere. Interventi politici, Torino, Einaudi, 1977, pag. 29 e ss.). Non sempre si fa quello che si dovrebbe e qui conviene concentrarsi sul deep learning.
Il deep learning lavora tramite reti neurali in cui ciascun livello stabilisce che cosa può passare al livello successivo, ovviamente più sono i livelli e più il sistema è accurato.
Il test CAPTCHA (Completely Automated Public Turing test to tell Computers and Humans Apart), quel test che chiede di distinguere gli alberi dai semafori quando si accede a un sito internet, ha consentito di raccogliere una grandissima mole di dati da organizzare in reti neurali.
Queste reti neurali si sono evolute in due direzioni. La prima sfrutta un diagramma Bayesiano (ovvero un modello grafico probabilistico che rappresenta un insieme di variabili stocastiche con le loro dipendenze condizionali attraverso l'uso di un grafo aciclico diretto): se voglio capire perché la mia macchina non si accende mi devo porre una serie di problemi (variabili stocastiche), ciascuno dei quali impone una dipendenza condizionale che a sua volta può essere considerata come una variabile stocastica che determina ulteriori dipendenze condizionali. Questo diagramma consente di collegare le parole fra di loro seguendo il significato che le rende parti di un unico discorso e per ottenere questa coerenza classifica le parole come elementi di un insieme statistico di cui il significante è la variabile mentre il significato è la dipendenza, cosa che viene fatta utilizzando lo stesso modello (le catene di Markov) che si usa per predire il tempo o indovinare i numeri della roulette, un modello in cui una serie di variabili stocastiche non dipende necessariamente dalle dipendenze condizionali che le hanno generate e, perciò, in cui è possibile arrivare allo stesso punto (alle stesse conclusioni) indipendentemente dal punto di partenza.
Niente di semplice, insomma. Ma comunque un sistema in cui il nodo è combinare le variabili stocastiche alle dipendenze condizionali e che può essere vincolato considerando talune variabili come invarianti.
La seconda considera ogni parola come un insieme di significati che può essere misurato esattamente come se fosse una forza fisica, sicché il risultato di una combinazione di parole è un vettore che risulta da più forze semantiche.
Questa intelligenza artificiale funziona molto bene con i dati biometrici perché se guardo un viso e lo misuro, millimetro per millimetro posso ottenere il vettore che definisce solo quel viso. Il sistema di riconoscimento facciale di un telefono portatile funziona così.
L’intelligenza artificiale merita di uscire dal suo nascondiglio fantascientifico, di essere presa sul serio e compresa nel suo concreto funzionamento in modo da poter essere regolata.
Il modello Bayesiano, ovviamente, può essere disciplinato trasformando alcune variabili in valori costanti.
Il modello vettoriale, invece, può essere disciplinato a partire dai dati utilizzati per alimentarlo.
Ma il vero dislivello prometeico non riguarda il funzionamento della intelligenza artificiale, bensì il senso che acquista la macchina nelle relazioni fra gli uomini.
L’intelligenza artificiale deve essere regolata per il modo in cui può essere utilizzata: il programma utilizzato per la gestione dei conducenti di una piattaforma di commercio elettronico può essere impostato uno strumento di oppressione o un cronotachigrafo intelligente.
L’intelligenza artificiale più affascinante, però, è quella che può programmare se stessa, sia correggendo i difetti della sua programmazione, sia sviluppando la propria programmazione per affrontare i problemi che non erano stati immaginati quando era stata messa in opera ed arrivare fino a definire il proprio codice sorgente o addirittura il linguaggio di programmazione con cui opera. Fa paura perché non è più una invenzione umana.
Questa macchina che pensa (quasi) come un uomo può essere cattiva come un uomo?
Ma se fosse così, se avessimo effettivamente compreso il modo di ragionare delle macchine intelligenti per come si sta evolvendo e sviluppando, allora il monito con cui Luciani conclude la sua riflessione dovrebbe essere ripensato: non dobbiamo sforzarci di educare i nostri studenti a studiare con serietà, evitando scorciatoie, ma dobbiamo iniziare a pensare come educare le macchine “pensanti”.
Il vero salto della intelligenza artificiale si è compiuto quando si è sostituito un pensiero debole in cui le variabili, i nodi, erano predeterminati a un pensiero forte in cui la stessa macchina è in grado di costruire le proprie variabili e i propri nodi.
Ecco questo non dovrebbe essere possibile, non del tutto. Ci sono dei nodi che devono essere predeterminati.
Ma per arrivare a questo si deve seguire la stessa strada della IRTF (Internet Research Task Force) che da tempo cerca di integrare i diritti umani nei protocolli di rete (vedilo a https://hrpc.io/), il che è relativamente semplice quando si parla di privacy perché è sufficiente disciplinare il linguaggio di programmazione delle pagine web in modo che mantenga privati i dati relativi alla navigazione, ma molto più complesso quando si parla di libertà di manifestazione del pensiero.
Non è la strada che segue l’Unione Europea o l’executive order di Biden citati da Luciani, che preferiscono guardare alle applicazioni, con una impostazione assai più prudente e tradizionale, perché basata su di una analisi del rischio che opera solo ex post e che, nello stesso tempo, non approfondisce i complessi temi che l’intelligenza artificiale pone sul piano della responsabilità aquiliana (cfr. C. Wendehorst, Liability for Artificial Intelligence: The Need to Address Both Safety Risks and Fundamental Rights Risks, in S. Voeneky, P. Kellmeyer, O. Mueller, W. Burgar, eds. The Cambridge Handbook of Responsible Artificial Intelligence: Interdisciplinary Perspectives, Cambridge Law Handbooks. Cambridge University Press; 2022, 187-209, anche per gli accenni alla disciplina in itinere a livello europeo).
3 – Sulla base di queste premesse, è possibile tentare qualche profilo di risposta ai quesiti posti da Luciani.
Il primo di questi riguarda la possibilità di considerare l’intelligenza artificiale come un fattore di rischio.
Il rischio è lo strumento con cui l’uomo cerca di stare meglio o meno peggio (A. Smith, Theory of Moral Sentiments (1759); trad. it. Teoria dei sentimenti morali, Roma, Istituto dell’Enciclopedia Italiana, 1991).
Il valore della libertà scientifica per come è espresso nell’art. 33, Cost. può ricollegarsi alla matrice liberale della libertà di ricerca? La Costituzione non fugge dal rischio, quando afferma la libertà della ricerca, è consapevole del rischio che la ricerca produce: il Costituente sapeva perfettamente che la scienza era pericolosa, era molto più vicino di noi agli sviluppi letali delle ricerche in campo nucleare.
Nello stesso tempo, la proprietà, anche la proprietà intellettuale, non solo quella fondiaria o dei mezzi di produzione, è costituzionalmente intrisa di funzione sociale e questo vale anche per il codice dell’intelligenza artificiale. Lo stesso vale per l’iniziativa economica, anche nel campo delle nuove tecnologie, deve essere indirizzata verso l’utilità sociale e, adesso, lo sviluppo sostenibile.
In altre parole, è chiara, a mio avviso, nel testo costituzionale l’opzione per una libertà della ricerca che prelude a una società del rischio e l’idea che questo debba essere attentamente orientato da un’azione pubblica possibile per effetto del complesso coordinarsi degli artt. 41, 42 e (perché no?) 43, Cost.
Ma Luciani pone anche il problema radicale della possibilità logica di regolare la ricerca scientifica.
In realtà, il diritto costituzionale è consapevole che senza una società del rischio sarebbe molto difficile modificare il senso dei rapporti sociali nella chiave dell’eguaglianza, e, nello stesso tempo, consente di distinguere il dominio, in senso matematico, della ricerca scientifica dal dominio della tecnologia che cade negli artt. 41 – 43, Cost.
La ricerca scientifica, come ogni altro valore costituzionale, non può essere considerata un valore assoluto, non lo sono neppure l’ambiente o la salute, sicché ben può accadere che sia regolata per tenere conto di altri valori e questo mi pare valga più con riferimento alla scienza applicata (la produzione di embrioni, cui accenna Luciani) che non alla scienza pura (la ricerca delle condizioni alle quali è possibile riprodurre sinteticamente un essere umano).
Luciani chiede che cosa il diritto dovrebbe promuovere con riferimento alla scienza e in particolare alla ricerca nel campo della intelligenza artificiale.
Si è già risposto cercando di spiegare che cosa è l’intelligenza artificiale e individuando nella sua mancanza di “educazione” il problema. Lo Stato deve incoraggiare una ricerca capace di educare l’intelligenza artificiale generativa. Ma questo è giusto? Non diventa una sorta di censura? Se la cifra del contemporaneo è la “governamentalità”, ancora il Foucault della biopolitica, l’intelligenza artificiale asservita allo Stato non potrebbe condurre a un assolutismo catastrofico di valori che sarebbero condivisibili solo se “parlamentati” con metodo democratico?
Se il diritto sceglie di regolare esclusivamente le applicazioni, questa regolazione, seguendo lo schema della disciplina eurounitaria o di quella emanata negli Stati Uniti, non può che farsi carico di una adeguata analisi del rischio connesso a ciascuna applicazione e muoversi di conseguenza, se, invece, il diritto si prende carico della intelligenza artificiale considerandola come uno strumento che può servire per promuovere i valori costituzionali, allora, lo sforzo diventa incorporare i valori costituzionali nel codice dell’intelligenza artificiale, nel suo patrimonio genetico, facendone delle invarianti.
E questa, ad avviso di queste pagine, dovrebbe essere la sfida che il diritto costituzionale dovrebbe porsi dinanzi all’intelligenza artificiale: se gli uomini possono essere cattivi, le macchine pensate dagli uomini possono essere programmate in modo da essere, se non buone, meno cattive?
4 – L’intelligenza artificiale spaventa perché il suo sviluppo può sfuggire al controllo umano.
L’uomo – l’uomo comune, quello fatto come ciascuno di noi – guarda l’intelligenza artificiale con il muto spavento che spingeva l’antico greco a rivolgersi agli indovini per placare gli dei, perché sa di essere inferiore, sa di soffrire del dislivello prometeico sofferto dagli ultimi dinosauri prima della loro estinzione.
Ma se c’è una cosa che la modernità occidentale ha compreso è che il rischio deve essere considerato inevitabile e che la sua inevitabilità produce paura, quella paura che è il vettore di senso dei legami sociali a partire da Hobbes.
La Costituzione è una risposta a questa paura perché costituisce un vettore di senso dei legami sociali capace di spiegare e rendere ragionevoli le diseguaglianze, è lo strumento con cui il potere costituente indirizza la società verso il possibile.
Se Prometeo fosse stato un dinosauro, gli uomini non avrebbero mai avuto il fuoco. La sua paura di estinguersi avrebbe vinto su tutto, ma se Prometeo fosse stato un costituzionalista prima di consegnare il fuoco avrebbe pensato a come il fuoco avrebbe potuto essere utilizzato per ridurre le diseguaglianze invece che per vincere le guerre.
Il problema dell’intelligenza artificiale non è più un problema che si può risolvere sul piano della cibernetica, è un problema antropologico, perché è antropologica la risposta costruttiva ai dilemmi posti dalla società del rischio (E. Pulcini, Soggetti emozionali. Per avere cura del mondo, in Iride, 2021, 267) e, forse, è proprio la dimensione antropologica (e curativa) della Costituzione che dovrebbe essere indagata per trovare in maniera più approfondita e costruttiva le risposte ai quesiti che questa lettera ci ha posto.
Senza cedere alle tentazioni del catastrofismo: se i dinosauri avessero potuto decidere, non avrebbero mai acconsentito all’avvento dei mammiferi e l’essenza del mito di Prometeo è che l’uomo non è un dinosauro.
