di Massimo Luciani
1.- Conviviamo da quasi ottant’anni con la consapevolezza della possibilità di una nostra estinzione collettiva causata dall’olocausto nucleare e, da meno tempo, con quella della possibilità di una catastrofe causata dal cambiamento climatico. Una convivenza difficile, non solo perché genera ansie e angosce che hanno un notevole impatto sociale (e sulle quali c’è un’ampia letteratura psicologica), ma anche perché avvertiamo nel profondo che il rischio ci è imputabile. Imputazione alla specie e non necessariamente a noi come singoli, certo, ma pur sempre imputazione. Lungi dal consolarci questo c’inquieta, perché sin dagli anni Cinquanta Günther Anders aveva messo in luce il drammatico “dislivello prometeico” (prometeische Gefälle) che sovente caratterizza la ricerca scientifica e la sua applicazione tecnica, a causa della nostra incapacità di governarle riuscendo a gestirne le conseguenze. Sappiamo, insomma, che potremmo autodistruggerci, ma non ci consola vederci diversi dai grandi rettili del Cretaceo: quelli non potevano arrestare la caduta degli asteroidi sulla Terra, ma noi, che potremmo arrestare noi stessi, proprio di noi sappiamo di non poterci fidare.
Il dislivello prometeico si presenta, ora, anche nel dominio dell’intelligenza artificiale, che, soprattutto se unita al governo del patrimonio genetico umano, potrà determinare un mutamento antropologico mai registrato prima, mutamento così profondo che potrebbe non essere lontana dall’estinzione della specie, almeno per come sinora l’abbiamo conosciuta. Va da sé – tuttavia – che la questione presenta risvolti del tutto originali, poiché, mentre non abbiamo nulla da guadagnare dalla guerra nucleare o dal cambiamento climatico, le applicazioni dell’intelligenza artificiale offrono anche straordinarie opportunità di progresso. È appunto qui, sul crinale che separa rischio e beneficio, che incede a cauto passo il diritto.
2.- L’enormità della posta in giuoco e l’urgenza di una reazione normativa, ormai già evidentemente tardiva, ha suggerito un po’ in tutto il mondo un intervento regolatorio e non è certo un caso che siano giunti quasi in contemporanea l’Executive order emanato dal Presidente degli Stati Uniti il 30 ottobre (“Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence”) e l’annuncio dell’intervenuto accordo sull’Artificial Intelligence Act (AI Act) dell’Unione europea, da molto tempo in faticosa gestazione (come si legge sul sito dell’UE, “La Commissione accoglie con soddisfazione l’accordo politico raggiunto tra il Parlamento europeo e il Consiglio sulla legge sull’intelligenza artificiale [...] proposta dalla Commissione nell’aprile 2021”). L’Executive order definisce l’intelligenza artificiale “a machine-based system that can, for a given set of human-defined objectives, make predictions, recommendations, or decisions influencing real or virtual environments”, mentre l’art. 3 della proposta di regolamento UE, nel testo presentato nel 2021 dalla Commissione, definisce “«sistema di intelligenza artificiale» (sistema di IA): un software sviluppato con una o più delle tecniche e degli approcci elencati nell’allegato I, che può, per una determinata serie di obiettivi definiti dall’uomo, generare output quali contenuti, previsioni, raccomandazioni o decisioni che influenzano gli ambienti con cui interagiscono”. Al di là degli evidenti punti di contatto e di dissonanza fra le due definizioni, entrambe muovono da un concetto relativamente ampio di intelligenza artificiale (di qui in avanti, per semplicità, parlerò di “AI”), il che – ovviamente – rende particolarmente gravoso il compito della regolazione giuridica che è chiamato a disciplinarla (mi sono rapidamente occupato della questione in uno scritto che apparirà nel prossimo numero di Diritto e conti (del quale qui riprendo varie riflessioni).
Si pongono, a questo punto, alcuni interrogativi che, nello spirito della “Lettera AIC”, mi permetto di sottoporre alla comunità dei costituzionalisti, premettendo che: a) ne isolo – con qualche arbitrio – solo alcuni fra i mille e mille che potrebbero essere posti; b) li accompagno anche con qualche mia idea o pista di riflessione che ritengo opportuno seguire.
i) L’AI, oltre che un possibile fattore di progresso personale e sociale, è anche un potenziale fattore di rischio? Qui avrei pochi dubbi su una risposta affermativa, se è vero che anche nella comunità degli addetti ai lavori si diffonde l’allarme e che – ad esempio – Mustafa Suleyman, cofondatore di Deep Mind e di Inflection AI, ha in un suo recente volume riconosciuto che i sistemi di AI potrebbero non essere controllabili e che potremmo non comprenderne il funzionamento, pur avendoli creati.
ii) È opportuno che il diritto regoli non solo le applicazioni tecniche della ricerca scientifica, ma anche, direttamente, quest’ultima? Il principio di libertà della ricerca scientifica, sancito dall’art. 33 Cost., parrebbe sconsigliarlo. È tuttavia necessario distinguere oggetto e direzione della ricerca, da un lato, e metodo e tempi, dall’altro, poiché la garanzia della libertà s’atteggia diversamente nell’uno e nell’altro caso.
iii) È possibile che il diritto regoli la ricerca scientifica? Qui si pone anzitutto un problema – ben noto – di fatale ritardo del diritto sulla ricerca, poiché il primo, non potendo prevedere appieno tutti i suoi percorsi, finisce per poterla disciplinare soltanto a posteriori, il che – però – equivale a dire che la regolazione giuridica concerne le sole applicazioni della ricerca e non la ricerca medesima. V’è, poi, un secondo e meno evidente problema (che ho segnalato altrove), dovuto al fatto che mentre la ricerca si legittima da sé, cioè attribuisce a se stessa il proprio “senso” pel solo fatto di essere ricerca, il diritto deve razionalizzare i fatti dando loro un senso sociale, che nel caso della ricerca – però – appare pre-costituito. Il ritardo del diritto risulta dunque logico prima ancora che crono-logico.
iv) Qualora si rispondesse affermativamente ai quesiti sulla opportunità e sulla possibilità della regolazione, sarebbe possibile identificare almeno i confini estremi della ricerca scientifica, vietandola nei casi in cui il suo senso sociale fosse a priori irrintracciabile? La mia risposta è affermativa, anche se si tratta di ipotesi davvero marginali (penso alla creazione artificiale di corpi umani di sintesi destinati a fungere da magazzini d’organi da trapiantare, già anteveduta da qualche racconto di sci-fi).
v) Il quesito che precede tocca il tema di ciò che la ricerca non dovrebbe fare, ma è possibile identificare qualcosa che la ricerca dovrebbe fare e che il diritto potrebbe prescrivere o almeno incentivare? Penso, qui, in particolare, alla ricerca volta a identificare accorgimenti che impediscano ai sistemi intelligenti di sottrarsi allo spegnimento deciso dall’essere umano. Cosa, peraltro, tutt’altro che semplice, come attesta la letteratura scientifica in materia.
vi) Quali potrebbero essere gli istituti giuridici che il diritto potrebbe utilizzare? Da considerare fra gli strumenti di diretta efficacia prescrittiva sono in particolare la licenza, la riserva brevettuale, il controllo, l’ispezione, il codice etico. Fra quelli a efficacia indiretta la tassazione, l’esenzione, l’incentivo, il finanziamento. Qui si pongono, però, alcuni problemi supplementari. Il costo della ricerca scientifica sull’AI è elevatissimo e se si vuole una ricerca pubblica o una ricerca sostenuta e indirizzata dal pubblico occorre far leva proprio sugli istituti a efficacia indiretta. Se è così, però, si pone in veste nuova e differenziata il dubbio sull’opportunità dell’intervento regolatorio sulla ricerca, perché anche la semplice chiusura dei cordoni della borsa può incidere pesantemente nella libertà della ricerca, ottenendo con lo strumento economico-finanziario esattamente il medesimo risultato che si potrebbe ottenere con lo strumento direttamente prescrittivo. Si potrebbe replicare che la leva economico-finanziaria consentirebbe di sostenere la sola ricerca “buona”, ma è assai difficile distinguere fra la ricerca “buona” e quella “cattiva” e soprattutto è assai difficile identificare dei parametri oggettivi che permettano di identificare un confine la cui mobilità (salvi i casi estremi di cui s’è detto prima) è tale da aprire le porte al possibile abuso della discrezionalità politica. Non solo: i grandi competitors privati hanno un solo relativo bisogno del sostegno pubblico (a parte quello erogato nella forma delle commesse), sicché proprio i maggiori organizzatori di ricerca finiscono per essere insensibili all’uso degli strumenti “indiretti”.
vii) A fronte di queste difficoltà è giocoforza che il diritto si accontenti di disciplinare, più che la ricerca in sé, le sue applicazioni? In effetti, tanto l’AI Act dell’Unione quanto l’Executive order del Presidente degli Stati Uniti sembrano andare in questa direzione, stabilendo (come si legge nel primo), ad esempio, che “È opportuno vietare l’immissione sul mercato, la messa in servizio o l’uso di determinati sistemi di IA intesi a distorcere il comportamento umano e che possono provocare danni fisici o psicologici”. È possibile che questa scelta prudenziale sia anche opportuna, ferma restando la possibilità di identificare quei confini estremi della ricerca che il diritto potrebbe presidiare.
3.- Sin qui il capitolo dell’impatto del diritto sulla ricerca scientifica e tecnica in materia di AI. V’è però anche quello – speculare – dell’impatto delle prime sul secondo, capitolo che forse è il più frequentato dai giuristi.
A me sembra che in questo dominio la questione più importante sul piano teorico-generale sia quella della certezza. Ho più volte sottolineato l’importanza della certezza, la sua connessione con la nascita stessa dello Stato moderno, la sua imprescindibilità per la creazione e preservazione di spazi individuali e collettivi di libertà e di eguaglianza, il legame intimo che la unisce al principio della separazione dei poteri. Legittimo, allora, chiedersi se l’AI sia in grado di darci quelle prestazioni di certezza che sovente l’azione umana, vuoi per la sua intrinseca fallibilità, vuoi per l’errata concezione che si ha dei suoi stessi confini, non riesce a erogare. Anche qui è necessaria una riflessione collettiva.
Personalmente, coltivo da tempo il massimo sospetto nei confronti dei benefici che l’AI può arrecare al mondo del diritto, specie pel profilo della possibile sostituzione dell’essere umano con la macchina nell’azione dello ius dicere. Lasciamo stare le idee “romantiche” del giurista saggio e sapiente che non potrebbe essere sostituito da una macchina: il problema si radica – a mio parere – nel modo stesso in cui la macchina potrebbe operare nel mondo del diritto.
Si pone, prioritariamente, la questione della logica di funzionamento della macchina. È noto che ormai da tempo la stessa giurisprudenza ha affermato il principio della necessaria conoscibilità dell’algoritmo, ma le incertezze della letteratura specialistica, che tende a escludere la piena comprensibilità dell’algoritmo e (soprattutto) del suo funzionamento una volta che questo è in azione e una volta che la macchina “impara”, rendono assai scettici sulla effettiva operatività concreta del principio astratto.
Si pone, poi, la questione delle informazioni che alla macchina vengono erogate, informazioni che sono necessariamente di provenienza umana (almeno in origine) e la cui completezza e affidabilità è assai difficilmente verificabile.
Si pone, infine, la questione della natura stessa di quelle informazioni. Si dice normalmente che la giuris-dizione macchinale deve alimentarsi di precedenti giurisprudenziali, ma non sempre si considera che:
a) continuiamo a ripeterci che il diritto applicato sorge dal dialogo fra la dottrina e la giurisprudenza, ma non è dato intendere perché, allora, la giuris-dizione macchinale non dovrebbe essere alimentata anche di dottrina;
b) se questo è vero, non è semplice differenziare all’interno dell’apporto dottrinale, che sappiamo assai diseguale per qualità e autorevolezza;
c) il problema dei precedenti è anche pratico, poiché quelli più risalenti non sono indicizzati, e politico, poiché, almeno nei Paesi che hanno conosciuto anche regimi illiberali, si deve stabilire se la macchina debba essere alimentata anche con precedenti risalenti a fasi storiche autoritarie o totalitarie, il che non è affatto semplice da decidere, anche perché (pensiamo a qualche noto arresto italiano durante il fascismo) pure in fasi politicamente buie possono registrarsi sprazzi di luce giuridica;
d) l’alimentazione con i precedenti introduce un vincolo (neanche tanto) occulto che i Paesi di civil law non conoscono;
e) il precedente vincola a parità di condizioni, ma il distinguishing è possibile solo a patto di identificare con precisione i profili comuni alle varie fattispecie e quelli che le differenziano, il che richiede apprezzamenti che (a causa di note imperfezioni del diritto positivo) non sempre sono indirizzati da saldi paradigmi normativi;
f) il vincolo occulto al precedente finisce, dunque, per ostacolare fortemente quella necessaria dinamica del diritto applicato che è data per scontata anche dall’approccio giuspositivistico (nel quale mi riconosco);
g) il problema non si risolve prevedendo un human oversight, perché il dictum macchinale condizionerebbe così pesantemente l’azione umana che questa ben difficilmente avrebbe il coraggio di discostarsene.
Una riflessione comune sulla giuris-dizione macchinale e su questi ostacoli sembra dunque necessaria e non rinviabile più di tanto, considerata l’accelerazione dei processi della ricerca.
Vero è, però, che se quella della giuris-dizione macchinale è una prospettiva (solo) possibile, quella dell’impatto dell’AI sull’attività del giurista è già attuale. ChatGPT e i suoi omologhi saranno (anzi: già sono, anche se ancora assai marginalmente) fatalmente utilizzati da avvocati, funzionari e magistrati, che – specie quando di modesto profilo intellettuale e di scarsa autonomia di giudizio – vi troveranno un comodo supporto professionale. Potremo avere, in particolare, una giurisdizione ancora apparentemente umana, ma in realtà macchinale, ché il giudice incapace o neghittoso non avrebbe esitazioni a farsi rimpiazzare sostanzialmente dalla macchina, pur rimanendo formalmente dominus della decisione.
Questa mi sembra la frontiera immediata del nostro ragionar comune, perché è lungo quella frontiera che si giuocano i destini non già della sola categoria dei costituzionalisti, ma di quella dei giuristi in generale. E sottolineerei un punto di supplementare inquietudine. I giuristi di domani, quelli che ora sono studenti, utilizzano e sempre più utilizzeranno i chatbot per prepararsi e affrontare le prove del loro percorso formativo, ma c’è da chiedersi quanto esso possa essere soddisfacente. Una formazione fondata sul convincimento che una risposta è sempre disponibile al di fuori del nostro patrimonio memorizzato e pensato è vera formazione? È autentica Erlebnis o è semplice Erfahrung quella di chi esperisce solo passivamente? Ecco, questo mi sembra l’interrogativo più urgente e angoscioso, che trovo assai difficile affrontare con ottimismo e fiducia, ma che deve indurci, più che alla rassegnata disperazione, a reagire con originalità di soluzioni e impegno personale, educativo e – perché no – esemplare.
