Nell’estate del 1985 Italo Calvino, occupandosi del valore della leggerezza, nella prima delle sue Lezioni americane – sei proposte per il prossimo millennio che avrebbe dovuto tenere alla Harvard University, con grande acume ha sottolineato l’importanza del software, del suo essere pensiero leggero che dimostra, come altri concetti studiati dalla scienza (il DNA, i neuroni, i quark, i neutrini), che il mondo si regge su entità sottilissime e allo stesso tempo fondamentali. Calvino scriveva:
«È vero che il software non potrebbe esercitare i poteri della sua leggerezza se non mediante la pesantezza dell’hardware; ma è il software che comanda, che agisce sul mondo esterno e sulle macchine, le quali esistono solo in funzione del software, si evolvono in modo d’elaborare programmi sempre più complessi. La seconda rivoluzione industriale non si presenta come la prima con immagini schiaccianti quali presse di laminatoi o colate d’acciaio, ma come i bit d’un flusso d’informazione che corre sui circuiti sotto forma d’impulsi elettronici. Le macchine di ferro ci sono sempre, ma obbediscono ai bit senza peso».
Purtroppo Calvino non potè presentare le sue lezioni negli USA a causa di un’improvvisa e grave malattia che gli fu fatale. Tuttavia, per nostra fortuna, quelle lungimiranti lezioni sono raccolte nel libro che raccoglie quelle lezioni che ci ricordano l’importanza di riflettere sul nostro futuro.
In un tempo nel quale l’informatica non era diffusa come oggi e lo scenario di pervasività digitale che adesso registriamo era tutto da immaginare, Italo Calvino aveva ben compreso il ruolo degli algoritmi e gli effetti della loro implementazione tramite programmi software.
Aveva compreso la loro grande capacità di agire come agente formidabile di mediazione, come entità “soft” di comando per macchine che si nutrono di informazioni e le sanno trasformare velocemente in azioni. Guidate dalle sequenze di istruzioni che danno forma agli algoritmi, i computer agiscono profondamente sul “mondo esterno“. Il potere della leggerezza del software è molto più importante della pesantezza dell’hardware di cui sono fatte le “macchine di ferro” che “obbediscono ai bit senza peso“.
Quello che Calvino aveva colto circa quaranta anni fa, oggi si è pienamente realizzato. Tuttavia, ancora oggi sono molte le persone che non sembrano capire questa inedita realtà che purtroppo non è insegnata nelle scuole, seppure stia dominando le vite di tutti i ragazzi che attualmente vivono la condizione di studenti di una scuola rimasta ancora ai paradigmi del Novecento e che tra qualche anno saranno lavoratori e cittadini adulti in un millennio che certamente sarà dominato dagli algoritmi e dalle macchine che “obbediscono ai bit senza peso”.
Ogni nuovo strumento porta con sé una nuova forma di esercizio del potere che si realizza attraverso la sua capacità di intermediazione (di stare in mezzo) tra gli esseri umani e il reale. A dispetto di quello che potremmo pensare, le macchine artificiali più complesse che l’uomo ha saputo inventare non sono gli aerei, neanche le stazioni spaziali e nemmeno l’acceleratore di particelle LHC del CERN. Per quanto queste “macchine” siano di complessità elevatissima e unica, il loro essere oggetti molto sofisticati è certamente superato dalla intrinseca complessità dei computer e dei sistemi software che loro ospitano ed eseguono. A dispetto della loro apparente semplicità, il computer, aiutato gli algoritmi che lo fanno funzionare, può contenere tutta la complessità del mondo. Hardware e software possono contenere e svolgere tutto quello che l’essere umano è capace di esprimere. Come ha dimostrato Alan Turing nel secolo scorso, i computer sono “macchine universali” capaci di calcolare tutto quello che è calcolabile. Sono le macchine più flessibili, più veloci e più semanticamente potenti che il nostro mondo ha visto apparire. Proprio a causa della loro intrinseca complessità, i computer e gli algoritmi sono entrati velocemente e intimamente in ogni aspetto della vita dell’uomo e nei prossimi decenni lo faranno sempre più.
L’intrinseca complessità delle macchine digitali ha fatto sì che oggi il rapporto delle persone con il mondo sia sempre più spesso e più profondamente regolato dalle miriadi di algoritmi che loro eseguono. Molto spesso facciamo uso di algoritmi per cercare delle informazioni, per dialogare con altre persone a migliaia di chilometri di distanza, per raggiungere un luogo, semplicemente per scegliere una canzone da ascoltare o per scattare una foto. Richiediamo queste operazioni senza comprenderne i tanti dettagli, le tante rigidità e le logiche che spesso gli algoritmi nascondono.
Ne vediamo gli effetti senza conoscere i procedimenti logico-matematici che loro usano. Percepiamo le loro operazioni principali ma non riusciamo a comprendere i dettagli, le parti non visibili, quelle che operano senza manifestarsi. Ormai viviamo in un’implicita simbiosi con infinite sequenze di istruzioni che operano dentro programmi software eseguiti da computer, smartphone, sensori, webcam, smartwatch e molte altre macchine “intelligenti”. Da questa simbiosi cerchiamo di ottenere i maggiori benefici senza essere però in grado di riconoscerne tutti gli aspetti e i tanti effetti, non sempre positivi, sulla nostra natura di umani.
Sono gli algoritmi a scegliere i contenuti che cerchiamo sul Web, a suggerirci il numero ottimale di passi giornalieri da compiere, a decidere quale percorso seguire quando siamo in macchina verso luoghi sconosciuti, a trovare il negozio online che vende il più strano oggetto al prezzo più basso, a raccogliere e conservare i nostri dati nella rete e a elaborarli per inviarci i messaggi pubblicitari “più appropriati”. Ci ricordano gli appuntamenti e i viaggi analizzando le nostre email, ci suggeriscono le amicizie sui social, ci aiutano a scegliere la vacanza più adatta a noi o il film da vedere ogni sera. Parlano con noi in ufficio o in casa. Suggeriscono diagnosi ai medici, segnalano potenziali criminali alla polizia o addirittura consigliano sentenze ai giudici. Sono sempre accanto a noi, anche quando vorremmo stare da soli e non riusciamo a spegnerli del tutto.
In estrema sintesi, le “macchine incorporee” rese reali dagli algoritmi esercitano una forma nuova di potere sugli individui. Un potere, molto spesso occulto e non immediatamente percepibile dalle persone che li usano. Sono macchine raffinate a tal punto che il loro “motore” è così complesso e occultato nei circuiti hardware che alla gran parte dei suoi utilizzatori non è dato conoscerlo o comprenderlo. Hanno un “propulsore” che è aggiornato continuamente e chi aveva provato a familiarizzare con la sua versione precedente non necessariamente ne conoscerà la più recente.
Il motore leggero degli algoritmi è adattivo così può essere tanti motori. Per questa loro capacità di adattarsi ai problemi, come si adatta il nostro cervello alla realtà che ha di fronte, gli algoritmi sono il nuovo pensiero automatizzato, rapido e flessibile, ma allo stesso tempo imperativo e prescrittivo.
Un pensiero che a volte sa cambiare e adattarsi a ogni situazione pur rimanendo rigido nelle sue scelte e fermo nelle sue procedure. In queste sue modalità di azione gli algoritmi esprimono una fondamentale forma di potere: sono i nuovi silenziosi intermediari con il reale.
Lo sono durante il nostro lavoro, nell’interazione con gli altri, in viaggio, negli acquisti o a scuola. Mai come prima d’ora gli algoritmi mediano, e in parte governano, la nostra relazione con il mondo. Ci consigliano le notizie più interessanti, ci guidano nella scelta di un ristorante o nel semplice acquisto di un paio di scarpe. Ci spiegano come usare il nostro conto corrente e decidono se abbiamo diritto a un mutuo, se e dove eventualmente ci tocca quel posto di insegnante a scuola per il quale avevamo fatto domanda. Fanno scelte per noi. Lo hanno fatto in maniera massiccia nei mesi dell’isolamento domestico e lo continueranno a fare anche dopo che la pandemia sarà passata. Lo faranno anche quando avremo sconfitto il COVID-19 che, nei fatti, ha agito come un grande alleato delle tecnologie digitali, accelerando la loro adozione e il loro uso massiccio nel lavoro da remoto, nella didattica a distanza e nelle videocall famigliari. Le app di tracciamento, come l’app Immuni in uso in Italia, le piattaforme social, i sistemi di videoconferenza, le chat, le email, e tante altre applicazioni di largo uso che contengono un gran numero di programmi e procedure, sono esempi perfetti di come gli algoritmi siano diventati il soggetto principale nelle relazioni fisiche ma anche psichiche e culturali tra un individuo e l’altro. Nei mesi della diffusione del virus sono stati gli algoritmi e le macchine digitali che li ospitano, a permetterci di mantenere le nostre relazioni sociali. Hanno agito come il più importante, e a volte unico, garante del nostro essere comunità. Anche in questo caso dunque hanno svolto il ruolo di forte intermediazione personale pur in uno scenario irreale come quello dell’isolamento fisico che ha reso ogni luogo pubblico per qualche mese un deserto distopico.
Oggi possiamo affermare che la forma simbolica più potente tra quelle che l’essere umano ha saputo creare, è rappresentata dal software che codifica ed esegue algoritmi spesso pensati e progettati per risolvere problemi, per semplificare il nostro rapporto con gli altri e con il mondo e che talvolta finiscono per complicarlo. Sono algoritmi quelli che modificano la nostra percezione della realtà quando usiamo gli AirPods che eseguono la “cancellazione attiva” del rumore, rilevando i rumori ambientali e impediscono loro di arrivare alle nostre orecchie. Sono algoritmi quelli che fanno funzionare gli sportelli Bancomat o per il pagamento automatico del pedaggio autostradale, quelli che guidano e controllano il lavoro in fabbrica, quelli che monitorano il lavoro del capotreno, quelli che ci fanno acquistare prodotti online e che fanno funzionare il GPS. Sono gli algoritmi a gestire le traiettorie dei satelliti, i robot nelle catene di montaggio e le macchine che effettuano le analisi TAC o la risonanza magnetica. Sono algoritmi quelli che ci permettono di usare lo smartphone come una telecamera o una macchina fotografica e ottimizzano i colori delle nostre foto, rappresentando così la realtà più bella di quella che percepiamo con i nostri sensi e che ormai troppo spesso guardiamo soltanto attraverso l’occhio degli smartphone.
Il potere maggiore determinato da questa nuova condizione del genere umano è nelle mani di quelli che hanno saputo costruire imperi digitali fondati su algoritmi unici e potenti come quelli di Google che guidano le nostre ricerche in rete o quelli di Facebook che definiscono le nostre relazioni sociali che spesso nascono nello spazio digitale per una “coercizione soft” concepita da sistemi di machine learning ma che talvolta determinano i nostri destini. Imperi algoritmici che con un ritmo incessante realizzano, offrono e diffondono sequenze operative sotto forma di software che “riempie” di logica operativa la rete, i nostri computer, gli smartphone e tutti gli oggetti digitali che usiamo e che, allo stesso tempo, ci usano proprio grazie al software di cui sono colmi e che li guida. Software che guidando loro, guida anche noi anche quando non ce ne accorgiamo, anche quando gli forniamo inconsapevolmente i dati di input che gli permettono di prendere decisioni che ci riguardano senza chiedere il nostro parere.
Questa è una fase che non ha precedenti e che sta cambiando il presente e il futuro di tutti i cittadini. Molti benefici si stanno avendo a causa della potenza delle tecnologie digitali. Tuttavia, ogni nuovo strumento non genera mai soltanto effetti positivi e non è mai completamente neutro. Come ricordava Karl Popper, esistono ripercussioni sociali non intenzionali che seguono alle azioni umane intenzionali. Ogni nuova invenzione, ogni nuovo strumento porta con sé effetti collaterali non previsti. Ancora di più se è molto complesso, non solo apporta benefici ma crea rischi e minacce che richiedono una maggiore cognizione e regole adeguate.
Sono questi gli elementi necessari per evitare che l’uso degli algoritmi possa favorire soltanto pochi a danno di molti. In particolare, come accennato in precedenza, le tecnologie digitali hanno consentito la creazione di grandi imperi tecnologici che ora influenzano e in troppe occasioni svolgono un ruolo più importante di molti governi.
Di conseguenza, le decisioni sull’utilizzo dei loro algoritmi e dei dati raccolti che interessano miliardi di persone, non possono essere lasciate soltanto nelle mani dei loro dirigenti, dei loro proprietari o dei loro tecnici che costituiscono un’èlite digitale che sembra non rispondere a principi etici o civici. Un’èlite digitale che ha saputo costruire enormi palazzi di bit e di istruzioni basate su codici binari e li ha dotati di troni leggeri ma potentissimi fatti di app, di Big Data e di intelligenza artificiale a basso prezzo ma di grande impatto.