Si sente sempre più spesso parlare di algoritmo come procedimento matematico assegnato a un software affinché – attraverso un determinato processo – individui un preciso risultato.
Si tratta in pratica di regole che vengono assegnate a dei programmi affinché possano processare dei dati seguendo delle logiche precise per giungere ad una determinazione finale.
Siamo forse talmente abituati all’idea di affidarci a questi automatismi che progressivamente abbiamo quasi rinunciato a controllare certi fenomeni che ci appaiono ormai sottratti al nostro controllo.
Negli ultimi anni sempre più spesso i processi decisionali sono stati affidati ad automatismi di questo tipo e hanno ingenerato un gran numero di problemi non tanto e non solo legati alla giustezza dell’esito finale, quanto piuttosto legati all’uso ed all’abuso di questi sistemi in relazione all’eventuale lesione dei diritti fondamentali dell’uomo.
Ad esempio sappiamo che la magistratura americana si serve spesso di sofisticati algoritmi per poter determinare l’ammontare della condanna e questo oramai sta creando forti disuguaglianze in relazione alle diverse etnie. Ci sono precedenti giudiziari in cui le pene vengono maggiorate a seconda del quartiere in cui si vive, se è degradato o no. Dunque l’algoritmo sta ponendo forti problemi in relazione alla lesione dei diritti fondamentali dell’uomo. E sono problemi che non vanno sottovalutati.
Abbiamo spesso affidato i processi decisionali a pratiche di digitalizzazione solamente al fine di raggiungere una maggiore efficienza e rapidità del risultato.
Probabilmente non è stato tenuto abbastanza in considerazione il fatto che si potessero produrre risultati discriminatori sulla base dell’applicazione di regole che molto spesso restano opache perché protette da copyright o dalla riservatezza dei dati stessi, piuttosto che della strategia commerciale di una società.
Se ci fosse solamente l’aspetto positivo dell’uso dell’algoritmo non staremmo qui a scrivere. Nessuna polemica, non si vuole criminalizzare nessuno, ma si vuole semplicemente sollevare l’attenzione su pratiche discriminatorie che a volte si verificano perché l’algoritmo stesso oppure l’uso che se ne fa, può ledere i diritti fondamentali della persona.
Non dobbiamo scomodare i grandi matematici del passato e nemmeno rifugiarci nella filosofia del diritto perché tutti sappiamo che i numeri sono numeri e dicono solo il valore che esprimono. Quindi non possiamo accanirci contro l’algoritmo in quanto tale, visto che è solo una sequenza di numeri che determina un risultato. Ma dobbiamo valutarlo in relazione al procedimento che lo ha prodotto e rispetto all’uso che se ne fa in un sistema che garantisce i diritti di tutti.
Si sbaglia a pensare che l’analisi critica di questi temi sia prerogativa degli Stati americani o esteri in generale sul falso presupposto che non riguardi l’Italia perché così non è. Se è vero che abbiamo un’arretratezza digitale diffusa a tutti livelli, se è vero che anche la nostra pubblica amministrazione, le nostre imprese registrano una forte arretratezza digitale, ciò non significa che dobbiamo ignorare queste fattispecie, perché in realtà ci riguardano direttamente.
Recentemente anche il Tar del Lazio ha iniziato a occuparsi di algoritmo di calcolo, affermando il diritto all’accesso ai c.d. codici sorgenti del software dell’algoritmo di gestione del procedura amministrativa utilizzato, nel caso che occupa, dal Ministero dell’Università e della Ricerca per la mobilità dei docenti.
La peculiarità del caso è che il giudice amministrativo ha qualificato l’algoritmo di cui trattasi ‘atto amministrativo’ o meglio ha riconosciuto la diretta riconducibilità del software che gestisce l’algoritmo all’atto amministrativo informatico verso cui è garantito il diritto d’accesso secondo la legge 241 del 1990.
A parere del Tribunale amministrativo, l’uso da parte del Ministero dell’Università e della Ricerca di uno strumento innovativo per determinare, in modo più razionale e agevole, l’individuazione della sede spettante al singolo docente, pratica che prima veniva gestita dagli uomini in forma manuale, non può in alcun modo limitare l’ampiezza del potere di accesso agli interessati dalla procedura.
Il Tribunale affronta anche il tema della tutela del diritto di autore e della proprietà intellettuale del software specificando che l’accesso ai c.d. codici sorgenti del software dell’algoritmo appare senza ombra di dubbio penetrante, tuttavia non essendo in alcun modo lesivo del diritto all’uso esclusivo dell’opera professionale, non può e non deve in alcun modo giustificare una compromissione del diritto da parte degli interessati di poter conoscere con precisione i contenuti dell’azione delle Pubbliche Amministrazioni.
L’Italia, come mostrano gli argomenti trattati dal giudice amministrativo, è pienamente coinvolta nel dibattito sull’algoritmo e non potrebbe essere diversamente.
Se perfino l’algoritmo con cui Ministero dell’Università e della Ricerca determina la sede del docente, può essere oggetto di un accesso amministrativo, questo significa che dobbiamo garantire la trasparenza e assicurare che quel dato sia messo a disposizione di chiunque sia interessato e ne faccia richiesta al fine di verificarne l’attendibilità e la corretta applicazione in ogni fase del procedimento che lo vede coinvolto.
Forse con questo caso, potrebbe essere proprio l’Italia a porsi da capofila di una serie di precedenti giuridici che vanno a formare quel patrimonio di esperienze necessario per normare un fenomeno che – oltre ogni allarmismo – deve suscitare nei decisori la necessità di una giusta regolazione.