Circa un anno prima che Jeff Bezos volasse nello spazio, è stato chiamato a rapporto. Amazon aveva appena risposto all’omicidio di George Floyd per mano della polizia con una donazione di 10 milioni di dollari, quando gli osservatori hanno iniziato a sottolineare la flagrante ipocrisia di Amazon. Dopotutto, la società ha passato anni a vendere il suo software di riconoscimento facciale intrinsecamente parziale direttamente alla polizia, che potrebbe utilizzare quel software per tracciare gli attivisti in un fiorente movimento di protesta che Amazon apparentemente sostiene. Ben presto, la società ha pubblicato uno straordinario annuncio secondario: che Amazon aveva messo una pausa di un anno sulla sua tecnologia di riconoscimento facciale, nella speranza che il Congresso avrebbe per allora creato una legislazione per regolarla adeguatamente.
La stragrande maggioranza delle aziende tecnologiche e dei legislatori ha scelto di continuare a tutta velocità a vendere software di riconoscimento facciale
Il gesto di “difesa” di Amazon, sebbene certamente lodevole, ha avuto finora un impatto minimo sul quadro generale. Insieme alle aziende più piccole come Rank One, Cognitec e NEC, che continuano a vendere software di riconoscimento facciale per le forze dell’ordine, altri ceppi di tecnologia simile stanno espandendo ulteriormente lo stato di sorveglianza e perpetuando una cultura della paura e del razzismo. Un anno dopo le proteste di George Floyd, rimaniamo a un punto di svolta per le forze dell’ordine, ma invece di sospendere i sistemi di sorveglianza più potenzialmente pericolosi fino a quando il governo non risolverà la regolamentazione, la stragrande maggioranza delle aziende tecnologiche e dei legislatori ha scelto invece di continuare a tutta velocità. Insieme, stanno applicando una mentalità che crea problemi a cose che, se rotte, non possono essere riparate, vale a dire privacy, libertà e vite umane.
Se di recente la domanda di soluzioni di sicurezza è in forte aumento, è perché sono aumentati anche i crimini violenti. Proprio tra il 17 e il 23 luglio almeno 430 persone sono state uccise in 915 sparatorie in America, secondo la collaborazione di Gun Violence Archive con ABC This Week . Solo a metà dell’anno, il 2021 è già in corsa per raggiungere la vetta del 2020 nelle morti legate alle armi da fuoco, mentre il 2020 è stato già l’anno più letale per le sparatorie in due decenni.
Eminenti repubblicani e il National Fraternal Order of Police hanno collegato il picco di criminalità al grido di battaglia Defund the Police emerso dalle proteste dello scorso anno, nonostante il fatto che in realtà si sia ancora verificato poco il defunding e che anche il crimine violento sia in aumento nelle città che hanno mantenuto o aumentato i fondi per la polizia. Il panico intorno all’ondata sembra anche ignorare in qualche modo il fattore di anomalia di una pandemia una volta ogni secolo, prima della quale il crimine violento era precipitosamente calato dall’inizio degli anni ’90. Ma il panico non è mai stato storicamente confuso con il pensiero razionale e analitico; quindi, invece di esaminare l’eccedenza di armi dell’America e la mancanza di una rete di sicurezza sociale, i poteri forti stanno invece rafforzando i sistemi di sorveglianza.
Molte persone hanno una paura innata di essere monitorate e tracciate
Molte persone hanno una paura innata di essere monitorate e tracciate. Mettono pezzi di nastro adesivo sull’obiettivo della fotocamera del laptop, come un cerotto che potrebbe curare qualsiasi vulnerabilità all’essere visti involontariamente. Evitano i gadget domestici intelligenti, come Amazon Echo, per paura che tutto ciò che dicono venga registrato e archiviato. Tuttavia, alla fine, tutti devono uscire ed entrare nella sfera pubblica, a quel punto si trovano costantemente a rischio di essere sorvegliati in un modo o nell’altro.
Ciò che i legislatori e le forze dell’ordine sembrano volere, in teoria, è l’equivalente digitale della magia: l’abilità onnisciente di catturare i criminali sul fatto, trovarli ovunque possano tentare di fuggire e persino prevedere i loro crimini prima che accadano. In pratica, tuttavia, l’attrezzatura che le aziende tecnologiche hanno prodotto per raggiungere questi obiettivi varia da imprevedibile a catastrofica.
Diamo un’occhiata ad alcune tra le principali Big Tech che stanno lavorando in tal senso
ShotSpotter
ShotSpotter è, in mancanza di un modo migliore per dirlo, Shazam per il rumore del crimine. È uno strumento che utilizza sensori microfonici nascosti per rilevare il suono e la posizione degli spari, quindi emette un avviso per gli agenti di polizia partecipanti. Attualmente in uso in più di 100 città, la tecnologia genera, nella sola Chicago, una media di 21.000 avvisi ogni anno. La società afferma che è accurato al 97%.
Il dispositivo non solo informa gli agenti sulle potenziali scene del crimine attive, ma il suo sito Web promette anche di aiutare a “costruire casi pronti per il tribunale”. Sfortunatamente, come riportato da Motherboard all’inizio di questa settimana, questi casi sono spesso costruiti con prove alterate.
Secondo il rapporto, gli analisti di ShotSpotter hanno la capacità di sovrascrivere manualmente i suoi algoritmi e “riclassificare” un suono come uno sparo, o modificare altri fattori come la posizione del suono o l’ora in cui si è verificato, in base alle esigenze del caso. Questi analisti hanno spesso modificato gli avvisi su richiesta dei dipartimenti di polizia.
Anche il pericolo non finisce qui. La tendenza delle forze dell’ordine a utilizzare ShotSpotter esclusivamente nelle comunità prevalentemente nere e latine è destinata a favorire il già sproporzionato tasso di brutalità della polizia in quelle comunità. È stato un allarme ShotSpotter lo scorso marzo, ad esempio, che ha inviato la polizia in una strada di Chicago dove hanno finito per sparare e uccidere il tredicenne Adam Toledo.
Flock Safety
La società con sede ad Atlanta Flock Safety ha recentemente fatto notizia per il suo round di finanziamento da $ 150 milioni e si impegna a ridurre la criminalità del 25% nei prossimi tre anni. Operando su sensori di movimento, Flock Safety abbina lettori di targhe ad energia solare con un software basato su cloud. La polizia usa lettori di targa da almeno un decennio, ma si dice che quelli realizzati da Flock Safety siano più potenti dei loro predecessori. Prendono automaticamente la marca, il modello, il colore e i segni distintivi di qualsiasi veicolo che passa e registrano anche la data e l’ora. Flock Safety emette anche un avviso ogni volta che rileva un veicolo rubato noto o uno che è fuggito dalla scena del crimine. I dispositivi sono attualmente installati in 1.200 comunità in 40 stati, in coordinamento con oltre 700 forze dell’ordine.
Proprio come i sistemi di rilevamento degli spari, tuttavia, i lettori di targhe nel complesso possono essere utilizzati per scopi sgradevoli.
Oltre alla semplice risoluzione di crimini come le auto rubate, alcuni dei concorrenti di Flock Safety sono stati adottati dagli agenti dell’ICE per rintracciare gli immigrati privi di documenti. Anche questi tipi di dispositivi non sono immuni da errori. Nel 2018, ad esempio, un altro lettore di targhe nella Bay Area ha portato la polizia a fermare un veicolo e a puntare le pistole contro il conducente e il suo passeggero, su un’auto a noleggio erroneamente identificata come rubata.
Ring
Acquisita da Amazon nel 2018, Ring è un ibrido tra campanello e telecamera di sicurezza che registra e invia video ai telefoni degli utenti e al cloud di Amazon, basato su sensori di movimento. Ha notoriamente catturato alcuni momenti divertenti del quartiere, cementandolo nell’immaginazione di alcune persone come un aspetto bizzarro della vita moderna, ma porta anche connotazioni molto più sinistre. Principalmente, trasforma la prospettiva che qualcuno si avvicini alla propria porta in un evento allarmante, fornendo alle forze dell’ordine una marea di falsi allarmi e un’abbondanza di opportunità discutibili.
Fino a poco tempo fa, Ring permetteva alla polizia di chiedere in privato agli utenti di condividere i filmati registrati dalle loro telecamere. Grazie alle critiche dei gruppi per le libertà civili e dei sostenitori della privacy, tuttavia, la polizia ora deve presentare pubblicamente richieste tramite l’app Ring’s Neighbors, una sorta di bacheca digitale in cui le persone possono pubblicare avvisi per la propria comunità. Amazon ha anche recentemente stabilito dei limiti su quali filmati la polizia può chiedere e in che quantità, dopo che la Electronic Frontier Foundation ha scoperto che gli agenti di polizia tentavano di utilizzare i filmati di Ring per spiare i manifestanti di Black Lives Matter la scorsa estate. Esattamente il tipo di ipocrisia su cui Amazon è stata richiamata con il suo gesto a sostegno di Black Lives Matter lo scorso giugno.
La collaborazione di Ring con le forze dell’ordine è profonda, con la società che redige persino dichiarazioni stampa e post sui social media per la polizia con cui promuovere le sue telecamere e gli agenti sembrano a loro volta apprezzare la tecnologia. Come riportato da Gizmodo nel 2019 , la polizia di Fort Lauderdale, in Florida, apparentemente ha messo in palio Rings per i membri di alcune comunità, ed è stata “specificamente istruita dai superiori” per verificare che gli utenti sapessero come ricevere le richieste della polizia per i filmati Ring.
Citizen
Simile a Ring’s Neighbors, Citizen è un’altra app di notifica del crimine altamente localizzata. Il suo nome originale era “Vigilante” quando è stato lanciato nel 2016, che dice praticamente tutto sulle intenzioni dell’azienda, anche prima della parte in cui incoraggiava gli utenti ad affrontare il problema della criminalità “in gruppo” e vedere cosa potevano “fare al riguardo”. “Vigilante” qui non deve essere confuso con Vigilant Solutions, una società di software di riconoscimento facciale impiegata da molti agenti di polizia. Vigilante è stato rapidamente bandito, fino a quando non è stato rinominato Citizen, con una minore enfasi sull’intervento personale. Ora ha più di 7 milioni di utenti in 30 città.
Anche con il nuovo nome, l’app continua a indulgere a fantasie di vigilantismo. Gli avvisi dell’app si basano su chiamate al 911 non confermate, che a volte sbagliano nei dettagli.
Ancora più di recente, l’app è andata oltre la deputazione dei civili nella guerra al crimine per assumere silenziosamente squadre di giornalisti sul campo dilettanti per setacciare città come New York e Los Angeles per le scene del crimine da trasmettere in streaming. Chiunque sia interessato a guadagnare $ 200 per un turno di 8 ore (a New York) o $ 250 per un turno di 10 ore (a Los Angeles) può diventare, essenzialmente, il personaggio inquietante di Jake Gyllenhaal del film Nightcrawler.
Palantir e la “polizia predittiva”
Infine, c’è Palantir: il presunto “strumento definitivo per la sorveglianza”.
Palantir, che prende il nome dalle Seeing Stones ne Il Signore degli Anelli, è progettato per raccogliere grandi quantità di dati raccolti da un numero qualsiasi di organizzazioni, dalle targhe e impronte digitali alle identità di informatori riservati e record di posta elettronica, e consentire agli utenti di individuare connessioni nascoste tra loro. È stato forgiato con l’aiuto di Peter Thiel e alimentato dalla stessa ambizione onnisciente del precedente programma di data mining del Pentagono, Total Information Network. Sebbene abbia funzionato con quasi tutti gli acronimi della zuppa di alfabeto nel governo, BuzzFeed News l’anno scorso l’ha descritta come “l’azienda più segreta nelle forze dell’ordine”.
Quasi 5.000 agenti di polizia a Los Angeles hanno accesso all’occhio che tutto vede di Palantir. Possono utilizzare uno dei tanti strumenti di riconoscimento facciale non Amazon disponibili per scattare una foto di chiunque ritengano sospetto, scoprire istantaneamente la loro identità e quindi collegarlo a Palantir per scoprire un’infinità di informazioni su di loro, senza mandato. Come per magia. In effetti, Palantir aiuta anche con la cosiddetta “polizia predittiva”, la risposta della tecnologia attuale ai “precog” di Minority Report. È un’idea basata sulla convinzione che i dati algoritmici possano determinare dove e quando potrebbero verificarsi crimini futuri.
Secondo una ricerca del Brennan Center, il dipartimento di polizia di Los Angeles ha iniziato a esplorare la possibilità di una polizia predittiva nel 2008. Da allora, la polizia di Los Angeles ha implementato una serie di programmi di polizia predittiva, tra cui Laser, che identifica le aree in cui la violenza armata è ritenuto probabile, e PredPol, che calcola i cosiddetti “punti caldi” con un’alta probabilità di reati. Ma c’è un’enorme differenza tra l’installazione di autovelox sulle autostrade dove l’eccesso di velocità è stato storicamente prevalente e l’invio di polizia nei quartieri, o vicino a persone specifiche, basandosi esclusivamente su schemi precedenti, per fermare il crimine prima che accada. Soprattutto quando, come sottolinea The Next Web, i dati raccolti dalla polizia predittiva possono essere basati su “varie forme di pratiche di polizia illegali e tendenziose”.
In definitiva, qualsiasi algoritmo utilizzato per prevedere o prevenire il crimine è affidabile tanto quanto l’essere umano che l’opera è fallibile.
Cosa succede adesso
Perché la polizia di oggi si sta dotando sempre più di strumenti che potrebbero essere usati per rintracciare i terroristi? Soprattutto quando sembra che non riescano nemmeno a far funzionare correttamente le fotocamere del corpo.
All’inizio della scorsa estate, durante il picco delle proteste di George Floyd, quando Amazon ha messo in pausa il suo software di riconoscimento facciale (da allora ha esteso la pausa a tempo indeterminato), sembrava che l’America potesse avere un serio momento di introspezione su come le comunità stavano sopportando il peso dell’eccesso di polizia e perché; ma quel momento è evaporato. Proprio quando il paese ha iniziato a mettere in discussione collettivamente il potere della polizia nel plasmare la narrativa, la narrativa del “crimine è in aumento nelle città in cui la polizia è stata definanziata” ha rapidamente preso il sopravvento. A questo punto, l’idea di definanziare effettivamente la polizia e rafforzare i servizi sociali in modo significativo si è trasformata in un argomento di discussione cinico che i democratici potrebbero utilizzare nelle elezioni del 2022.
Se tutta questa tecnologia di sorveglianza potenziata stava già crescendo mentre il crimine stava diminuendo negli ultimi decenni, vengono i brividi al pensiero di quanto ne avremo di più con l’aumento del crimine come di recente. Più i cittadini medi si sentono presi dal panico, più la Silicon Valley produrrà nuovi sistemi inevitabilmente soggetti a difetti per sfruttare la situazione. I dipartimenti di polizia continueranno a lavorare con quelle aziende, che non solo danno loro l’opportunità di prendere scorciatoie o agire di parte in alcuni casi, ma ironicamente le fanno anche sembrare “progressive” e lungimiranti mentre lo fanno.
A un certo punto, questa continua dipendenza da apparecchiature costose e inaffidabili comincia a sembrare una caratteristica e non un bug. L’uso delle macchine per ridurre il più possibile la possibilità di errore umano nel lavoro di polizia potrebbe essere solo un modo per evitare di affrontare veramente il tipo di questioni più profonde sul ruolo della polizia nella società che hanno raggiunto il punto di ebollizione la scorsa estate.
È inutile come mettere un cerotto su una ferita da proiettile o mettere un pezzo di nastro adesivo sulla fotocamera del laptop e pensare che significa che nessuno possa scoprire cosa stai facendo.
