Rinunciare ad una tecnologia di propria volontà con ottime potenzialità di business sulla base di princìpi etici.
Così IBM, la più antica azienda di informatica al mondo, ha annunciato la propria uscita dal mercato del riconoscimento facciale.
Lo ha dichiarato ieri il CEO della compagnia Arvind Krishna, in una lettera inviata al Congresso americano, rivendicando la propria contrarietà all’uso di questa tecnologia utilizzata per la “sorveglianza di massa e la profilazione razziale” e considerata “discriminante dei diritti umani e delle libertà fondamentali” e chiedendo una legge per la giustizia razziale.
IBM contro i pregiudizi razziali
L’annuncio del colosso informatico arriva anche in un momento in cui la questione razziale è tristemente tornata in prima pagina dopo le violenze e gli abusi delle forze dell’ordine contro la comunità afroamericana e il caso dell’assassinio di George Floyd a Minneapolis.
“Riteniamo che sia giunto il momento di avviare un dialogo nazionale sul se e sul come la tecnologia per il riconoscimento facciale dovrebbe essere impiegata dalle forze dell’ordine“, ha scritto Krishna evidenziando i problemi relativi ai pregiudizi su etnia e genere riscontrati nei sistemi di intelligenza artificiale.
Krishna ha quindi esortato il Congresso ad impegnarsi in riforme per la giustizia razziale, tra cui la revisione dell’immunità qualificata che protegge le forze dell’ordine e impedisce ai cittadini di chiedere i danni se un agente viola i loro diritti costituzionali.
IBM: rinunciare al business per ragione etiche
E’ una delle prime volte nella storia che un’azienda, di propria volontà, rinuncia ad una tecnologia con ottime potenzialità di business sulla base di princìpi etici. Cosa contraria per quanto riguarda la concorrenza come Amazon, Google e Microsoft che invece continuano a svilupparla e a venderla.
Dunque, non si tratta del solo ‘effetto Floyd’ ad innescare il dibattito. L’uccisione dell’afroamericano a Minneapolis ha riaperto la discussione sulla vendita di tecnologie per il riconoscimento facciale da parte delle Big Tech alla polizia, anche se le questioni etiche sono da tempo in discussione a livello mondiale.
Riconoscimento facciale: controversie
Il riconoscimento facciale è una delle tecnologie più controverse degli ultimi anni. Numerose città d’occidente si sono dedicate in progetti di sorveglianza di massa pericolosi per i diritti dei cittadini.
Ci sono casi inquietanti come quello di Clearview AI, azienda che ha prelevato da internet e dai social foto degli utenti per fare un immenso database di volti e renderli riconoscili in aiuto delle forze dell’ordine.
I bias dell’IA
Un punto di grande attenzione per quanto riguarda il riconoscimento facciale è quello relativo alla possibilità che possa portare con sé dei pregiudizi (bias) inducendo poi l’AI a prendere decisioni discriminatorie e sbagliate.
Ci sono prove chiare che i bias dell’IA in cui i sistemi tendono, per esempio, a riconoscere come criminali le persone di colore. Ne abbiamo parlato in questa lunga intervista con Francesca Rossi, IBM Fellow e Global Leader sull’Etica dell’AI in IBM.
IBM e l’importanza della formazione
Nella lettera inviata al congresso americano, Krishna ha evidenziato come la formazione e l’educazione per le competenze richieste sono fondamentali per espandere le opportunità economiche per le comunità di colore.
“Dobbiamo creare percorsi più aperti ed equi per tutti gli americani per acquisire competenze e formazione in modo particolare nelle comunità di colore. Proprio per questo, spiega il Krishna nella lettera, “esortiamo il Congresso a prendere in considerazione le politiche nazionali per ampliare il numero e la portata di programmi come il P-Tech“.
Il P-Tech, sviluppato da IBM all’inizio di questo decennio, è un nuovo modello formativo per creare un legame più stretto tra la scuola secondaria di secondo grado, l’università e l’ecosistema industriale per promuovere le nuove skill oggi richieste dal mondo del lavoro e un apprendimento in grado di durare l’intera vita professionale.
P-Tech in Italia
Oltre gli Stati Uniti, dove il programma prevede una forte attenzione nei confronti degli studenti di colore, P-Tech ha sinora coinvolto 24 Paesi, oltre 200 Università e più di 600 partner industriali e ha portato sui banchi di scuola più di 125mila studenti su scala mondiale.
Proprio oggi, centosettanta studenti di quattro Istituti Secondari di Taranto hanno concluso il 1° anno del percorso ‘P-Tech Esperti Digitali’, avviato il 21 novembre 2019 scorso in collaborazione con partner pubblici e privati del territorio pugliese ed esteso, nel corso dell’anno, a realtà come Intesa Sanpaolo ed Enel.