di Maria Romana Allegri
Massimo Luciani, nel secondo paragrafo del suo contributo introduttivo al tema “libertà di ricerca e intelligenza artificiale”, ha prospettato alcuni interrogativi che vertono intorno al rapporto fra diritto e scienza: è possibile e opportuno che il diritto regoli la ricerca scientifica o almeno le sue applicazioni, con particolare riferimento ai sistemi di intelligenza artificiale? A tale proposito, Francesco Cirillo, nella sua replica, ha evidenziato alcune criticità: le regole prodotte a livello di Unione europea in riferimento alle tecnologie digitali (il GDPR, i recenti regolamenti sui servizi digitali e sui mercati digitali, regolamento in fieri sull’intelligenza artificiale) ricorrono spesso a concetti vaghi e ambigui, producendo effetti distorsivi (fra cui quello dell’abnorme moltiplicazione dei decisori) e risultando in buona parte inefficaci. Da queste considerazioni possono derivare alcuni spunti di riflessione cui mi sembra opportuno accennare in questo spazio di dibattito relativamente informale, pur consapevole della necessità di ulteriore studio e approfondimento per rendere il ragionamento un po’ meno semplicistico. Mi vorrei soffermare, in particolare, sulla questione della trasparenza algoritmica nella più recente normativa e giurisprudenza, che si scontra con l’impossibilità di tradurre i processi algoritmici in linguaggio comune.
Come evidenziato in varie occasioni da Andrea Simoncini (anche in Rivista AIC) oggi i sistemi di intelligenza artificiale – a prescindere dalle varie e non sempre univoche definizioni di AI fornite in vari momenti e a vari livelli – sono diventati una parte essenziale della vita quotidiana, tanto da poter parlare di social machine oppure di “sistema sociale algoritmico” per indicare quei sistemi che nascono dalla strutturale interazione di elementi umani e tecnici. Viviamo dunque in un ecosistema basato sull’interazione uomo-macchina e non a caso già da qualche anno il Consiglio d’Europa e il Parlamento europeo hanno sottolineato, in alcune risoluzioni, i rischi in termini di manipolazione della coscienza e della volontà connessi allo sviluppo dei sistemi tecnologici di interfaccia brain-computer. Peraltro, il concetto di rischio è il cardine attorno al quale ruota il regolamento europeo sull’intelligenza artificiale, ormai in dirittura d’arrivo.
Ma, al di là degli specifici rischi connessi alle singole applicazioni delle tecnologie di AI, qual è il rischio di fondo sotteso all’intero sistema? Mi pare che ciò consista nella perdita di centralità dell’elemento antropologico nell’attuale ecosistema, posto che – sempre citando Simoncini – «siamo dinanzi ad una delega (totale o parziale) di funzioni cognitive ritenute sinora proprie ed esclusive degli esseri umani, a sistemi tecnologici»: la tecnologia non è più soltanto un mezzo utilizzato per eseguire in modo più efficiente decisioni prodotte dall’uomo, ma è il soggetto agente che prende autonomamente decisioni in grado di incidere nella sfera giuridica delle persone umane, attraverso processi di elaborazione di dati. Gli algoritmi definiscono e limitano gli orizzonti epistemici dell’individuo, poiché plasmano e determinano le modalità con cui esso entra in contatto con il mondo, le sue opportunità di conoscenza e le sue alternative di scelta, fino ad interferire con la sua libertà morale e con la stessa costruzione identitaria del sé. Ciò mette in crisi il fondamento stesso del diritto costituzionale, basato sulla centralità dell’individuo e sulla garanzia dei suoi diritti, se non del diritto tout court inteso come tecnica per il controllo del comportamento dell’uomo, che si realizza attraverso il ricorso ad enunciati linguistici.
Ora, è vero che qualsiasi apparato tecnologico deriva originariamente dall’atto creativo umano e che dunque all’origine dei sistemi di AI vi è l’attività umana di progettazione degli algoritmi alla base del loro funzionamento. Tuttavia, le dinamiche inferenziali e statistico-probabilistiche attraverso cui il sistema tecnologico “impara” dai dati sono tali per cui la “logica” alla base delle decisioni assunte dalla macchina non è comprensibile per l’uomo, nemmeno per i programmatori degli algoritmi stessi: non è spiegabile prima che la decisione algoritmica venga assunta né ricostruibile a posteriori ripercorrendo a ritroso la catena dei processi di elaborazione. È così, di fatto, perché le decisioni algoritmiche, a differenza di quelle che ispirano l’agire umano, sono basate sul calcolo delle probabilità e non su processi logico-deduttivi in cui il giudizio è conseguenza della valutazione dei presupposti in temini non solo utilitaristici, ma anche etici.
Tutto ciò considerato, ci si chiede come possa realizzarsi in concreto il principio della trasparenza algoritmica, che è un mantra ricorrente nella normativa dell’Unione europea in ambito digitale. Si pensi, ad esempio, al richiamo a «informazioni significative sulla logica utilizzata» contenuto nell’art. 15, par. 1, lett. h del GDPR, oppure all’art. 27 del regolamento europeo sui servizi digitali, che postula la trasparenza dei sistemi di raccomandazione da realizzarsi «in un linguaggio chiaro e intellegibile», oppure ancora ai frequenti riferimenti alla trasparenza dei sistemi di AI nel regolamento europeo di prossima approvazione, che dovrebbero far sì che l'utente sia in grado di comprendere e utilizzare adeguatamente tali sistemi avendo una conoscenza generale del loro funzionamento. La trasparenza, di fatto, è irrealizzabile, non solo per l’impossibilità di spiegare le motivazioni alla base delle decisioni algoritmiche, ma anche perché, più semplicemente, tradurre il software nel linguaggio comune comporta inevitabilmente un alto grado di imprecisione e di approssimazione. Dunque, quale livello di comprensibilità dell’algoritmo può essere considerato adeguato a integrare il requisito della trasparenza?
Infatti, nemmeno l’ostensione del codice sorgente dell’algoritmo, cioè del software elaborato con il linguaggio di programmazione – come ad esempio ha prescritto il Tar Lazio, sez. III bis, nella sentenza n. 3769 del 2017, relativa all’algoritmo utilizzato per formare le assegnazioni alle sedi di servizio degli insegnanti – risolverebbe di per sé il problema della trasparenza algoritmica, non solo perché difficilmente comprensibile per i non addetti a lavori, ma anche perché non necessariamente riuscirebbe a spiegare le ragioni alla base di una decisione assunta da algoritmi di machine learning, progettati per “imparare” dai dati ed evolversi automaticamente di conseguenza.
Secondo il Consiglio di Stato (sez. IV, sentenza n. 2270 dell’8 aprile 2019) il principio della trasparenza algoritmica implica la «piena conoscibilità di una regola espressa in un linguaggio differente da quello giuridico». Quindi occorre che «la “formula tecnica”, che di fatto rappresenta l’algoritmo, sia corredata da spiegazioni che la traducano nella “regola giuridica” ad essa sottesa e che la rendano leggibile e comprensibile, sia per i cittadini che per il giudice». In particolare, questa «conoscibilità dell’algoritmo deve essere garantita in tutti gli aspetti: dai suoi autori al procedimento usato per la sua elaborazione, al meccanismo di decisione, comprensivo delle priorità assegnate nella procedura valutativa e decisionale e dei dati selezionati come rilevanti». Solo così, infatti, il giudice potrà «sindacare la stessa logicità e ragionevolezza della decisione amministrativa robotizzata, ovvero della “regola” che governa l’algoritmo». Il problema di fondo di questa decisione è che essa esplicitamente muove dall’erroneo presupposto che «la regola tecnica che governa ciascun algoritmo resta pur sempre una regola amministrativa generale, costruita dall’uomo e non dalla macchina, per essere poi (solo) applicata da quest’ultima»; tuttavia oggi i sistemi di intelligenza artificiale non si limitano ad applicare regole precostituite, ma riescono a produrre regole nuove sulla base dell’esperienza acquisita tramite di processi di elaborazione dei dati.
Proprio a tale proposito, successivamente il Consiglio di Stato (sentenza n. 7891 del 25 novembre 2021) ha distinto fra la nozione di algoritmo – «una sequenza finita di istruzioni, ben definite e non ambigue, così da poter essere eseguite meccanicamente e tali da produrre un determinato risultato» – e quella di intelligenza artificiale, in cui «l’algoritmo contempla meccanismi di machine learning e crea un sistema che non si limita solo ad applicare le regole software e i parametri preimpostati (come fa invece l’algoritmo “tradizionale”) ma, al contrario, elabora costantemente nuovi criteri di inferenza tra dati e assume decisioni efficienti sulla base di tali elaborazioni, secondo un processo di apprendimento automatico».
Più o meno in linea con il Consiglio di Stato, la Corte di Cassazione (I sez. civ., ordinanza n. 28358 del 10 ottobre 2023) ha ritenuto soddisfatti i requisiti di trasparenza e conoscibilità dell’algoritmo (nella fattispecie, un algoritmo di rating reputazionale) nel momento in cui si pone l’utente in condizione di comprendere lo «schema esecutivo dell’algoritmo», cioè la sequenza dei passaggi necessari a raggiungere un risultato, partendo da determinati dati: tali passaggi devono essere «elementari, univoci, di numero finito, operabili in un tempo finito e con risultato unico» e devono essere spiegati all’utente «in modo non ambiguo e in maniera dettagliata» utilizzando i termini della lingua comune e non certo il linguaggio matematico, che l’utente non è tenuto a comprendere. Ma il problema resta: è davvero possibile descrivere senza ambiguità e con un sufficiente livello di dettaglio dei procedimenti matematici in linguaggio comune? E quali indicatori consentirebbero di valutare, in caso di controversie, se tale spiegazione sia adeguata? Ad esempio, proprio nel caso di specie il giudice di primo grado (tribunale di Roma) aveva ritenuto che il livello di trasparenza algoritmica non fosse sodisfatto poiché la sua descrizione si limitava al l’incidenza dei dati presi in considerazione, senza spiegare le modalità con cui si giungeva al risultato finale (cioè, il “peso specifico” dei singoli fattori considerati e i meccanismi di interazione fra loro).
Tale obiezione, per quanto non condivisa dalla Cassazione, è indicativa a mio parere di un problema insolubile: la spiegazione “a parole” dell’algoritmo produce inevitabilmente un certo grado di oscurità e ambiguità. Forse un rimedio, per quanto parziale, potrebbe consistere nella definizione, per via normativa, di indicatori e parametri il più possibile condivisi, in base ai quali misurare il livello di trasparenza algoritmica. Forse qualche soluzione operativa potrebbe provenire, in un prossimo futuro, dal Centro europeo per la trasparenza algoritmica (ECAT), inaugurato il 18 aprile 2023, che riunisce ricercatori ed esperti nell’ambito dell’informatica, dell’analisi dei dati, dell’intelligenza artificiale e delle scienze giuridiche e sociali, al fine di analizzare il funzionamento dei software delle grandi piattaforme e motori di ricerca.
Comunque, nonostante tutte queste difficoltà definitorie e applicative, poiché è un dato di fatto che tutti noi siamo parte di un ecosistema “tecno-antropologico”, se non addirittura “antropo-tecnocratico”, nel quale siamo contemporaneamente progettisti-produttori di sistemi tecnologici e destinatari passivi e spesso inconsapevoli della tecnoregolazione, risolvere la questione della trasparenza e della comprensibilità dei software algoritmici e di AI è una priorità ineludibile, se davvero si vuole mantenere la persona umana al centro dei processi decisionali.
Ciò potrebbe, addirittura, condurre a un’interpretazione evolutiva della Carta costituzionale, a cominciare dall’art. 2 Cost.: i sistemi di interazione uomo-macchina ragionevolmente potrebbero essere considerati oggi come formazioni sociali in cui l’uomo svolge la sua personalità, in cui dunque devono essere garantiti i diritti fondamentali dell’individuo e deve essere richiesto l’adempimento dei doveri inderogabili di solidarietà economica, politica e sociale, gravanti anche sui gestori delle infrastrutture tecnologiche su cui tali sistemi si basano. Inoltre, in riferimento all’art. 3 Cost., la difficile intellegibilità dei linguaggi algoritmici da parte del cittadino comune rischia sempre più frequentemente di caratterizzarsi come un ostacolo che limita di fatto la libertà e l'eguaglianza dei cittadini, impedendo il pieno sviluppo della persona umana e l'effettiva partecipazione di tutti i lavoratori all'organizzazione politica, economica e sociale del Paese: infatti, essa può generare disparità, incompatibili con il principio di uguaglianza sostanziale, fra chi possiede gli strumenti cognitivi necessari a comprendere i linguaggi algoritmici e chi non ne dispone; può far sì che molte persone vengano escluse non solo dalla comprensione dei processi decisionali ma anche dall’accessibilità ai circuiti di decision making, producendo un vulnus sotto l’aspetto della loro piena partecipazione attiva alla vita democratica; può esporre le persone a lesioni della loro dignità personale o della loro privacy, senza che esse ne siano consapevoli e siano poste in condizioni di avvalersi efficacemente degli strumenti di tutela. Anche l’art. 9 Cost. nella sua più recente formulazione, potrebbe essere esteso agli ecosistemi basati sull’interazione uomo-macchina: una lettura, questa, in qualche modo favorita dal richiamo alla ricerca scientifica e tecnica contenuto nel primo comma e a quello del secondo comma riferito alle future generazioni, che ancora più di quelle attuali saranno plasmate dalla tecnologia. Poiché la tutela di cui all’art. 9 si riferisce agli ecosistemi in sé – quindi a tutte le loro componenti e non a quella umana in particolare – la norma potrebbe prestarsi non solo alla protezione dei diritti individuali all’interno dell’ecosistema digitale, ma anche alla protezione dello sviluppo tecnologico, essenziale alla sussistenza dell’ecosistema stesso. Infine, l’art. 24 Cost., che assicura il diritto di difesa in ogni stato e grado dei procedimenti giudiziari, potrebbe essere inteso come intrinsecamente collegato alla conoscibilità e comprensibilità dei processi algoritmici, senza cui sarebbe impossibile ricorrere efficacemente avverso qualsiasi decisione derivante da essi.
Certamente queste ultime considerazioni si prestano facilmente ad essere tacciate di “fantacostituzionalismo”. Ma se la nostra Costituzione non si aprirà in qualche modo alle sfide della contemporaneità – come certamente ha fatto nel momento in cui è stata originariamente concepita – e se il diritto non si sforzerà di individuare nuovi percorsi, anche a rischio di finire in qualche campo minato, le generazioni future rischiano di vedere entrambi, fra non moltissimo tempo, relegati fra i reperti archeologici.
