Il Consiglio di Stato nella sentenza in commento esorta l’utilizzo dell’algoritmo, incentivando l’assenza di intervento umano in un’attività di mera classificazione automatica di numerose istanze.
Questo, secondo il CdS, avviene grazie alle opportunità fornite dalle nuove tecnologie tramite l’introduzione di modelli decisionali e di forme gestionali innovative, che si avvalgano della tecnologie informatiche ed elettroniche, tant’è che è stata elaborata la nozione di “eGovernment”.
Tale utilizzo non deve essere stigmatizzato, ma anzi, in linea di massima incentivato perché “comporta infatti numerosi vantaggi quali, ad esempio, la notevole riduzione della tempistica procedimentale per operazioni meramente ripetitive e prive di discrezionalità, l’esclusione di interferenze dovute a negligenza (o peggio dolo) del funzionario (essere umano) e la conseguente maggior garanzia di imparzialità della decisione automatizzata”.
Dall’altro lato, lo stesso CdS, critica l’utilizzo improprio dell’intelligenza artificiale laddove dimostri l’irrazionalità degli esiti di una procedura.
Infatti, l’utilizzo dell’algoritmo non può essere “motivo di elusione dei principi che conformano il nostro ordinamento e che regolano lo svolgersi dell’attività amministrativa” ove “la regola tecnica che governa ciascun algoritmo resta pur sempre una regola amministrativa generale, costruita dall’uomo e non dalla macchina, per essere poi (solo) applicata da quest’ultima, anche se ciò avviene in via esclusiva”.
La sentenza è degna di nota perché pone l’accento sulla “disclosure” della logica dell’algoritmo laddove afferma che non può essere demandato al software di decidere ma che sia sempre “l’amministrazione (quindi l’essere umano NDR) a compiere un ruolo ex ante di mediazione e composizione di interessi, anche per mezzo di costanti test, aggiornamenti e modalità di perfezionamento dell’algoritmo (soprattutto nel caso di apprendimento progressivo e di deep learning)” valuta la sua funzionalità”.
Inoltre viene affermato un ulteriore principio: l’esito della elaborazione dell’algoritmo possiede una piena valenza giuridica e amministrativa declinata in forma matematica tanto da essere definito “atto amministrativo informatico” che soggiace ai principi della L. 241/90.
Infatti, i principi generali dell’attività amministrativa, quali quelli di pubblicità e trasparenza (art. 1 l. 241/90), di ragionevolezza, di proporzionalità, etc. sono applicabili anche all’algoritmo.
Ciò che lascia perplessi è che secondo questa sentenza “solo” il giudice sia deputato “svolgere, per la prima volta sul piano ‘umano’, valutazioni e accertamenti fatti direttamente in via automatica”, con la conseguenza che la decisione robotizzata “impone al giudice di valutare la correttezza del processo automatizzato in tutte le sue componenti”.
Senza porre in luce l’evidente contrasto di tale assunto con quanto previsto dal GDPR (ad esempio agli artt. 13 e 14, comma 2, lett. F, 15, comma I lett. H, e 22 ed ai considerando 63 sulla logica del trattamento e 71 sul diritto a non subire un trattamento unicamente automatizzato); questa affermazione è da rivedere perché costringe gli interessati a dimostrare per “logica induttiva” che l’Algoritmo non abbia funzionato a dovere senza poter pretendere sin dall’inizio quale sia la logica che lo governa.
Nel caso di specie, infatti, i ricorrenti lamentavano – per induzione- che l’intera procedura di assunzioni era stata gestita da un sistema informatico per mezzo di un algoritmo (il cui funzionamento sarebbe rimasto sconosciuto) ed era sfociata in provvedimenti privi di alcuna motivazione, senza l’individuazione di un funzionario dell’amministrazione che abbia valutato le singole situazioni ed abbia correttamente esternato le relative determinazioni provvedimentali.
Tale algoritmo, poi, avrebbe disposto i trasferimenti in una provincia piuttosto che in un’altra, in un posto di sostegno piuttosto che in un posto comune, senza tener conto delle preferenze indicate nelle rispettive domande di trasferimento, senza alcuna motivazione e in difetto della benché minima trasparenza.
Pertanto, appare sempre più opportuno e cogente legiferare (oltre il contesto applicativo del GDPR) il diritto alla disclosure della logica dell’algoritmo.
