La rubrica “Digital & Law” è curata da D&L Net e offre una lettura delle materie dell’innovazione digitale da una prospettiva che sia in grado di offrire piena padronanza degli strumenti e dei diritti digitali, anche ai non addetti ai lavori. Per consultare tutti gli articoli clicca qui.
Mentre il legislatore comunitario si sforza di realizzare una solida base normativa per l’intelligenza artificiale (IA) e continua accesa la discussione sulle questioni di natura etica poste dal ricorso a sistemi di IA, questi, che vogliamo accorgercene o meno, stanno entrando sempre più nella sfera personale dei cittadini, segnano l’evolversi delle professioni, anche intellettuali, assumono un ruolo via via maggiormente rilevante nell’economia e nel mondo del lavoro.
Per questo motivo, occorre conoscerne gli aspetti principali e saper distinguere gli elementi essenziali che contraddistinguono un sistema di IA, senza commettere l’errore di pensare all’intelligenza artificiale solo come a qualcosa di hollywoodiano, ma considerandola piuttosto per quello che è: una materia complessa in cui si intersecano aspetti giuridici, economici, sociali, etici, di analisi di dati, oltre che un fondamentale tassello per competere a livello internazionale.
Ciò è vero non solo per poter decidere con un minimo grado di consapevolezza se e in che misura accogliere tale nuova tecnologia nella propria vita privata quotidiana, ma lo è anche per poter intraprendere scelte adeguate a livello professionale e in contesti lavorativi. Sistemi di IA trovano, infatti, applicazione nei più svariati ambiti, compreso quello medico dove le professioni sanitarie sono tra quelle a minor rischio di automazione in virtù della natura e della varietà delle competenze richieste per il loro esercizio. E sistemi di IA sono (o dovrebbero essere) utilizzati più che altro per fornire supporto dell’attività umana, ad esempio, per migliorare le diagnosi e la prevenzione.
Anche in ambito lavorativo, dunque, è necessario che tutti gli operatori coinvolti familiarizzino con l’argomento, ciascuno ovviamente per quanto di propria competenza. L’amministrazione e il personale delle aziende coinvolte nella realizzazione e/o nella distribuzione e/o nell’approvvigionamento di prodotti tecnologicamente evoluti, devono essere in grado di distinguere, almeno concettualmente, sistemi che si basano su algoritmi che, seppur automatizzati, non contemplano meccanismi di IA da, appunto, sistemi di IA.
Tale necessità è da ultimo stata messa alla luce dalla recentissima sentenza del Consiglio di Stato, Sez. III, 25 novembre 2021 n. 7891. Prima, però, di illustrarne alcuni dei passaggi più significativi, si ritiene utile evidenziare un concetto fondamentale, collegato alla stretta connessione intercorrente tra la nozione di IA e quella di algoritmo: non tutti gli algoritmi riguardano o si occupano di IA, ma tutti i sistemi di IA – così come qualsiasi sistema informatico – presuppongono l’uso di algoritmi.
Algoritmi e IA: la sentenza del Consiglio di Stato
Ebbene, il Consiglio di Stato con la sentenza del 25 novembre 2021 Sez. III n. 7891 si è soffermato su tali nozioni, pronunciandosi in merito a una controversia, nell’ambito di una gara per la fornitura di “Pacemaker alta fascia DDDR” in favore di enti sanitari, avente ad oggetto il criterio di assegnazione del punteggio dei prodotti offerti dai partecipanti alla gara. Più in particolare, la lettera di invito e il capitolato tecnico indicavano, tra i criteri di valutazione dell’offerta tecnica, il parametro tabellare “Algoritmo di prevenzione + trattamento delle tachiaritmie atriali”, assegnando 15 punti per l’ipotesi di presenza di entrambi gli algoritmi, e 7 punti per l’ipotesi di presenza di uno solo di questi.
È importante evidenziare che la commissione di gara ha assegnato il punteggio pieno solo nel caso di algoritmo “automatico”. Più precisamente, con riferimento all’algoritmo di trattamento delle tachiaritmie atriali, ha premiato l’algoritmo che presentava una funzione che consentiva in maniera automatica di contrastare il ritmo prefibrillatorio, mentre non ha ritenuto “automatico” l’algoritmo presente nel prodotto offerto dall’altra società che, invece, non interviene con meccanismi di automazione delle funzioni di prevenzione e trattamento delle tachiaritmie atriali in quanto “costituisce invece uno studio elettrofisiologico eseguito in office da un operatore specialistico”.
L’aggiudicazione è stata impugnata – vittoriosamente – dinanzi al TAR Lombardia da parte della società seconda classificata alla gara, la quale, come detto, non aveva ricevuto punteggio pieno a causa dell’assenza di automaticità in entrambi gli algoritmi offerti. Il TAR, dopo aver definito la nozione di “algoritmo” – differenziandola peraltro dal concetto di IA – ha ritenuto di farvi rientrare anche l’algoritmo di trattamento dell’aritmia offerto dalla società seconda aggiudicata e, alla luce del fatto che “la legge di gara richiede unicamente la presenza di un algoritmo di trattamento (senza altro specificare)”, ha accolto il ricorso. Facendo leva sul dato testuale del bando di gara, il primo giudice osserva che il concetto di algoritmo di trattamento dell’aritmia “non include necessariamente […], come erroneamente ritenuto dalla stazione appaltante, che il dispositivo debba essere in grado di riconoscere in automatico l’esigenza (quindi di diagnosticare il tipo di aritmia) e somministrare in automatico la corretta terapia meccanica (trattamento)”. Vi sarebbe stata, dunque, ad avviso del giudice, una confusione e un’indebita sovrapposizione tra il concetto di algoritmo e quello di avvio automatico del trattamento.
L’uso di algoritmi complessi nel settore sanitario
Contro la sentenza del TAR è stato proposto appello dalla società inizialmente aggiudicataria della gara, la quale segnala che nel settore sanitario si fa uso di algoritmi complessi – quali appunto i dispositivi di c.d. alta fascia oggetto della gara, in grado tra l’altro di riconoscere, prevenire e trattare aritmie atriali – ma non per questo accomunabili ai sistemi di IA evocati nel primo grado di giudizio, in quanto trattasi comunque di algoritmi che agiscono secondo il tipico schema input-elaborazione-risposta.
Oggetto di ampia discussione, nonché di esame da parte del Consiglio di Stato, in particolare, è stata dunque la questione dell’esatta perimetrazione tecnica della nozione di algoritmo di trattamento riferita ad un pacemaker di alta fascia.
Il Consiglio di Stato, sposando la tesi prospettata dall’appellante, ha ritenuto che il prodotto offerto dalla società seconda classificata non dovesse ritenersi sufficiente a integrare la tipologia di algoritmo di alta fascia richiesto dall’amministrazione appaltante. Per meglio chiarire, la circostanza che nel bando di gara non fosse stato specificato il carattere “automatico” o “intelligente” dell’algoritmo non giustificherebbe un’interpretazione ampia di quest’ultimo. Se è vero, infatti, che l’interpretazione delle clausole della legge di gara soggiace alle regole di interpretazione dei contratti, è pur vero che si deve tener conto delle preferenze/esigenze dell’amministrazione appaltante rispetto alle caratteristiche funzionali e tecniche del bene da reperire sul mercato. E un’interpretazione strettamente letterale non deve finire per imporre un bene non voluto o non richiesto. A tal proposito – si comprende inoltre leggendo il provvedimento – la volontà di voler acquisire dispositivi di “alta fascia” e dotati degli algoritmi prevenzione e di trattamento delle tachiaritmie atriali, manifesta la volontà dell’amministrazione appaltante di acquisire un apparecchio tecnologicamente avanzato, dotato di un grado di automazione capace di coprire sia l’area della prevenzione che quella del trattamento. E tali funzionalità non sarebbero presenti nel prodotto offerto dalla seconda classificata, seppur non vi sia dubbio che anche il suo funzionamento si basi su un algoritmo, così come già correttamente definito dal TAR, ossia una sequenza finita di istruzioni, ben definite e non ambigue, così da poter essere eseguite meccanicamente e tali da produrre un determinato risultato. La nozione di algoritmo – osserva il Collegio – “quando è applicata a sistemi tecnologici, è ineludibilmente collegata al concetto di automazione ossia a sistemi di azione e controllo idonei a ridurre l’intervento umano”.
La distinzione tra algoritmo e IA
Anche il Consiglio di Stato, infine, sente la necessità di distinguere la nozione di algoritmo da quella di IA, da ritenersi cosa diversa anche dall’algoritmo dotato di un certo grado di automazione. Nei sistemi di IA l’algoritmo “contempla meccanismi di machine learning e crea un sistema che non si limita solo ad applicare le regole software e i parametri preimpostati (come fa invece l’algoritmo “tradizionale”) ma, al contrario, elabora costantemente nuovi criteri di inferenza tra dati e assume decisioni efficienti sulla base di tali elaborazioni, secondo un processo di apprendimento automatico”.
