L’uso degli algoritmi nel procedimento amministrativo e l’open source nella PA

Il Consiglio di Stato sez. VI, con sentenza n.2270 dell’8 aprile 2019 ha affermato il principio secondo il quale in primo luogo, come già messo in luce dalla dottrina più autorevole, il meccanismo attraverso cui si concretizza la decisione robotizzata (ovvero l’algoritmo) deve essere “conoscibile”, secondo una declinazione rafforzata del principio di trasparenza, che implica anche quello della piena conoscibilità di una regola espressa in un linguaggio differente da quello giuridico. In secondo luogo, la regola algoritmica deve essere non solo conoscibile in sé, ma anche soggetta alla piena cognizione, e al pieno sindacato, del giudice amministrativo.

L’utilizzo di procedure “robotizzate” non può essere motivo di elusione dei princìpi che conformano il nostro ordinamento e che regolano lo svolgersi dell’attività amministrativa.

Difatti, la regola tecnica che governa ciascun algoritmo resta pur sempre una regola amministrativa generale, costruita dall’uomo e non dalla macchina, per essere poi (solo) applicata da quest’ultima, anche se ciò avviene in via esclusiva.

Questa regola algoritmica, quindi:

  • possiede una piena valenza giuridica e amministrativa, anche se viene declinata in forma matematica, e come tale, come si è detto, deve soggiacere ai principi generali dell’attività amministrativa, quali quelli di pubblicità e trasparenza (art. 1 l. 241/90), di ragionevolezza, di proporzionalità, etc.;
  • non può lasciare spazi applicativi discrezionali (di cui l’elaboratore elettronico è privo), ma deve prevedere con ragionevolezza una soluzione definita per tutti i casi possibili, anche i più improbabili (e ciò la rende in parte diversa da molte regole amministrative generali); la discrezionalità amministrativa, se senz’altro non può essere demandata al software, è quindi da rintracciarsi al momento dell’elaborazione dello strumento digitale;
  • vede sempre la necessità che sia l’amministrazione a compiere un ruolo ex ante di mediazione e composizione di interessi, anche per mezzo di costanti test, aggiornamenti e modalità di perfezionamento dell’algoritmo (soprattutto nel caso di apprendimento progressivo e di deep learning);
  • deve contemplare la possibilità che – come è stato autorevolmente affermato – sia il giudice a “dover svolgere, per la prima volta sul piano ‘umano’, valutazioni e accertamenti fatti direttamente in via automatica”, con la conseguenza che la decisione robotizzata “impone al giudice di valutare la correttezza del processo automatizzato in tutte le sue componenti”.

In definitiva, dunque, l’algoritmo, ossia il software, deve essere considerato a tutti gli effetti come un “atto amministrativo informatico“.

Successivamente, la Sezione Terza bis del TAR Lazio con sentenza in forma breve N. 10964/2019, ha fissato un ulteriore importante principio di diritto in materia di uso dell’algoritmo informatico all’interno del procedimento amministrativo, affermando che non si può demandare allo strumento informatico lo svolgimento dell’intero procedimento amministrativo. In mancanza dell’intervento dell’uomo nel procedimento amministrativo, viene a mancare secondo il TAR una vera e propria attività amministrativa. Il meccanismo informatico o matematico è infatti del tutto impersonale e orfano di capacità valutazionali delle singole fattispecie concrete, tipiche invece della tradizionale e garantistica istruttoria procedimentale che deve informare l’attività amministrativa. Un algoritmo, motiva il TAR, quantunque, preimpostato in guisa da tener conto di posizioni personali, di titoli e punteggi, giammai può assicurare la salvaguardia delle guarentigie procedimentali che gli artt. 2, 6,7,8,9,10 della legge 7.8.1990 n. 241 hanno apprestato, tra l’altro in recepimento di un inveterato percorso giurisprudenziale e dottrinario. Ed ancora, gli istituti di partecipazione, di trasparenza e di accesso, in sintesi, di relazione del privato con i pubblici poteri non possono essere legittimamente mortificate e compresse soppiantando l’attività umana con quella impersonale. Ad essere inoltre vulnerato non è solo il canone di trasparenza e di partecipazione procedimentale, ma anche l’obbligo di motivazione delle decisioni amministrative, con il risultato di una frustrazione anche delle correlate garanzie processuali che declinano sul versante del diritto di azione e difesa in giudizio di cui all’art. 24 Cost.

E’ pertanto necessario ed insostituibile l’intervento umano che non potrà mai essere completamente sostituito dal sistema automatizzato. Alle procedure informatiche va riservato un ruolo strumentale e meramente ausiliario in seno al procedimento amministrativo e giammai dominante o surrogatorio dell’attività dell’uomo; ostando alla deleteria prospettiva orwelliana di dismissione delle redini della funzione istruttoria e di abdicazione a quella provvedimentale, il presidio costituito dal baluardo dei valori costituzionali scolpiti negli artt. 3, 24, 97 della Costituzione oltre che all’art. 6 della Convezione europea dei diritti dell’uomo.

Demandare ad un impersonale algoritmo lo svolgimento dell’intero procedimento amministrativo (esempio tipico è quello delle procedure di assegnazione dei docenti alle sedi disponibili nell’organico dell’autonomia della scuola), rappresenta una fattispecie in cui manca una vera e propria attività amministrativa.

<<Un algoritmo, quantunque, preimpostato in guisa da tener conto di posizioni personali, di titoli e punteggi, giammai può assicurare la salvaguardia delle guarentigie procedimentali che gli artt. 2, 6,7,8,9,10 della legge 7.8.1990 n. 241 hanno apprestato, tra l’altro in recepimento di un inveterato percorso giurisprudenziale e dottrinario>>.

Secondo il TAR <<gli istituti di partecipazione, di trasparenza e di accesso, in sintesi, di relazione del privato con i pubblici poteri non possono essere legittimamente mortificate e compresse soppiantando l’attività umana con quella impersonale, che poi non è attività, ossia prodotto delle azioni dell’uomo, che può essere svolta in applicazione di regole o procedure informatiche o matematiche. Ad essere inoltre vulnerato non è solo il canone di trasparenza e di partecipazione procedimentale, ma anche l’obbligo di motivazione delle decisioni amministrative, con il risultato di una frustrazione anche delle correlate garanzie processuali che declinano sul versante del diritto di azione e difesa in giudizio di cui all’art. 24 Cost., diritto che risulta compromesso tutte le volte in cui l’assenza della motivazione non permette inizialmente all’interessato e successivamente, su impulso di questi, al Giudice, di percepire l’iter logico – giuridico seguito dall’amministrazione per giungere ad un determinato approdo provvedimentale>>.

Le procedure informatiche, finanche ove pervengano al loro maggior grado di precisione e addirittura alla perfezione, non possono mai soppiantare, sostituendola davvero appieno, l’attività cognitiva, acquisitiva e di giudizio che solo un’istruttoria affidata ad un funzionario persona fisica è in grado di svolgere e che pertanto, al fine di assicurare l’osservanza degli istituti di partecipazione, di interlocuzione procedimentale, di acquisizione degli apporti collaborativi del privato e degli interessi coinvolti nel procedimento, deve seguitare ad essere il dominus del procedimento stesso, all’uopo dominando le stesse procedure informatiche predisposte in funzione servente e alle quali va dunque riservato tutt’oggi un ruolo strumentale e meramente ausiliario in seno al procedimento amministrativo e giammai dominante o surrogatorio dell’attività dell’uomo; ostando alla deleteria prospettiva orwelliana di dismissione delle redini della funzione istruttoria e di abdicazione a quella provvedimentale, il presidio costituito dal baluardo dei valori costituzionali scolpiti negli artt. 3, 24, 97 della Costituzione oltre che all’art. 6 della Convezione europea dei diritti dell’uomo.

Con sentenza recentissima il TAR Lazio ha ribadito il concetto riconoscendo il diritto di accesso al codice sorgente del software relativo allo svolgimento della prova scritta del concorso per il reclutamento dei dirigenti scolastici bandito nel 2017 (sentenza n. 7372 del 30 giugno 2020). Il Ministero dell’Istruzione (che ha bandito la procedura) e il Cineca (che ha realizzato il software) devono ora consentire l’accesso all’algoritmo, attraverso la lettura del codice sorgente del software, in modo che alcuni dei soggetti che hanno partecipato alla procedura possano verificarlo.

L’affermazione di questi principi sacrosanti da parte della giustizia amministrativa richiederà alla pubblica amministrazione un miglioramento delle competenze informatiche da parte dei funzionari della pubblica amministrazione in un paese che purtroppo si trova in coda tra i paesi dell’Unione Europea nella classifica delle competenze digitali. Non sarà infatti più sufficiente attingere semplicemente ed acriticamente i dati elaborati dal programma informatico ma il funzionario pubblico  responsabile del procedimento, dovrà partecipare attivamente alla sua stesura e quindi alla definizione dell’algoritmo, inteso come procedimento informatico che risolve un determinato problema attraverso un numero finito di passi elementari, chiari e non ambigui.

In un contesto in cui è sempre più diffuso l’uso di software che gestiscono il procedimento amministrativo o alcune delle sue fasi in maniera automatizzata, è necessario vigilare affinché risultino rispettati i principi delineati dalla più avveduta giurisprudenza amministrativa (trasparenza dell’algoritmo e partecipazione umana al procedimento che non deve essere quindi totalmente automatizzato); di pari passo è necessario migliorare il livello di competenza informatica dei dipendenti della pubblica amministrazione – attraverso il ricorso a risorse interne ed organiche all’amministrazione stessa – nonché incentivare ed estendere l’uso di applicativi informatici a codice aperto.   

A tal riguardo si evidenzia che la pubblica amministrazione italiana è tenuta per legge a preferire software libero e/o a codice sorgente aperto, valutando i possibili benefici derivanti dall’azione di formati aperti. La direttiva Stanca del 2003, affermò esplicitamente l’adozione di soluzioni informatiche in grado di gestire almeno un formato aperto. Ai sensi dell’art. art. 68 della del Codice dell’Amministrazione Digitale esiste l’obbligo di effettuare “analisi comparativa di soluzioni” ad es. tra programmi a codice aperto ed a codice chiuso. Le Pubbliche amministrazioni hanno inoltre l’obbligo di pubblicare in open source tutto il proprio codice e di valutare software già esistente prima di realizzarne di nuovo (art. 69 CAD).

In tale contesto normativo appare di difficile comprensione la recente decisione del Ministero dell’Istruzione di  adottare la suite proprietaria ed a codice chiuso Office 365 della Microsoft come piattaforma di lavoro; allo stesso modo non si comprende il motivo per cui i programmi prescelti per le udienze da remoto nel processo civile e penale siano sempre a codice chiuso di proprietà della Microsoft. E’ necessario quindi richiedere l’accesso agli atti del procedimento amministrativo di adozione degli applicativi informatici della pubblica amministrazione al fine di verificare l’effettivo espletamento delle analisi comparative. Tali procedure comparative, ad esempio nel caso specifico della scuola e della giustizia, non possono fare a meno di considerare costi e benefici nonché i rischi potenziali in termini di trattamento dei dati personali.

Rispondi

Questo sito usa Akismet per ridurre lo spam. Scopri come i tuoi dati vengono elaborati.