Privacy: Dal Pre-Crimine di Minority Report alla società del controllo orwelliana, quando la realtà supera la fantasia

Non si può scappare, non ci si può nascondere: la tecnologia di riconoscimento facciale sta avanzando ad un ritmo sempre più veloce, sta diventando sempre più diffusa e precisa, e stiamo entrando nella fase del non ritorno.

Secondo i ricercatori di Georgetown le agenzie di Chicago e Detroit hanno acquistato sistemi di riconoscimento facciale. Nel frattempo, a San Francisco, un'attesa legge sulla privacy è stata approvata. Nel Regno Unito un uomo non identificato è stato arrestato per aver nascosto il suo volto dalla tecnologia di riconoscimento facciale ed è stato multato con ammenda di 90 sterline per comportamento insano e disordinato.


Secondo i ricercatori di Georgetown, il software di un'azienda della Carolina del Sud, DataWorks Plus, chiamata FaceWatch Plus, "fornisce uno screening continuo e il monitoraggio dei flussi video in diretta" e viene utilizzato dai dipartimenti di polizia di Chicago e Detroit.

Entrambi i dipartimenti di polizia affermano di non aver usato il suo sistema. Tuttavia, Chicago ha introdotto in precedenza un programma orwelliano nel dipartimento di polizia di Chicago che si rivolge a cittadini innocenti sulla base di un pre-crimine, che ricorda molto il film Minority Report, un complesso algoritmo informatico è stato testato silenziosamente per 3 anni prima del 2016. Il programma è stato creato per tracciare e catalogare ogni cittadino della città, e utilizzare i dati privati di ogni persona per determinare se potrebbe essere o meno un potenziale criminale, come riportato in precedenza da Free Thought Project.

L'adozione di FaceWatch Plus da parte di Chicago risale almeno al 2016, dice un rapporto di Wired. Secondo una descrizione del programma - che si trova in DataWorks Plus a Detroit - l'"obiettivo del progetto" è stato quello di attingere alle 20.000 telecamere stradali e di transito di Chicago. La polizia di Chicago ha detto ai ricercatori che il sistema non è mai stato acceso. L'Illinois è uno dei soli tre stati con leggi sull'identificazione biometrica che richiedono il consenso delle persone prima che le aziende raccolgano marcatori biometrici, come impronte digitali e dati facciali. Ma gli enti pubblici sono esentati.

Inoltre, gli agenti governativi di Chicago hanno visitato in precedenza più di 1.300 persone innocenti per informarle che ora sono considerate "potenziali criminali" secondo la lista del pre-crimine in cui sono state inserite, non si sa bene con quali criteri. Secondo il New York Times, il sovrintendente di polizia Eddie Johnson ha detto in precedenza che i funzionari stavano intensificando quelle visite al momento, con almeno altre 1.000 persone in più.

"Stiamo prendendo di mira le persone giuste. Abbiamo solo bisogno dei nostri partner giudiziari e dei nostri legislatori statali per ritenere queste persone responsabili", ha insistito Johnson.

L'idea che Chicago non abbia usato un altro sistema è improbabile. La parte peggiore è che Chicago e Detroit non sono gli unici stati che iniziano ad usare la tecnologia di riconoscimento facciale; anche la polizia di Orlando e New York City sta testando tecnologie simili in progetti pilota.

L'ACLU dell'Illinois ha sottolineato che persone innocenti vengono segnalate sulla base di criteri che non sono mai stati stabiliti pubblicamente da una commissione di supervisione; in altre parole, stanno creando le proprie regole. Karen Sheley, la direttrice del Police Practices Project dell'American Civil Liberties Union of Illinois, ha evidenziato quanto sia preoccupante che le forze dell'ordine eseguano questo programma senza il controllo del pubblico:

Siamo preoccupati per questo. C'è un database di cittadini costruito su fattori sconosciuti, e non c'è modo per le persone di sfidare l'inserimento nella lista. In primo luogo, come si entra nella lista? Pensiamo che sia pericoloso individuare qualcuno sulla base di informazioni segrete della polizia.

A San Francisco invece, è stata approvata una storica legge sulla privacy, il Consiglio dei supervisori di San Francisco votando 8-1 diventa la prima grande città degli Stati Uniti a vietare al governo l'uso della tecnologia di sorveglianza del volto in tutti i dipartimenti, come riferito da EFF.

"È incoraggiante vedere San Francisco compiere questo passo proattivo nell'anticipare i problemi di sorveglianza all'orizzonte e guidarli in anticipo. Questo è molto più facile che cercare di rimettere il proverbiale genio nella bottiglia dopo che ha causato danni", ha scritto Nathan Sheard, avvocato dell'EFF.

Nel vecchio continente, nel Regno Unito la polizia ha effettuato diversi arresti, in questi giorni, tra cui un uomo che ha cercato di coprire il suo volto da controverse telecamere di riconoscimento facciale in uso nel Regno Unito (che hanno un tasso di fallimento del 96%) ed è stato multato con un'ammenda di 90 sterline, in quanto questo sarebbe un "comportamento disordinato".

Secondo la BBC la polizia ha anche arrestato altre tre persone durante il giorno grazie alla tecnologia del riconoscimento facciale. Dopo essere stato fermato, l'uomo sconosciuto che si nascondeva la faccia ha chiesto a un ufficiale: "Ti piacerebbe se camminassi per strada e qualcuno ti afferrasse la spalla? Non ti piacerebbe, vero?"

Dopo essere stato multato, l'uomo ha parlato con un giornalista: "Il tipo mi ha detto lungo la strada hanno il riconoscimento facciale. Cosi' sono passato davanti alle telecamere in quel modo (coprendomi la faccia)".
"E' anche un giorno freddo. Non appena l'ho fatto, il poliziotto mi ha chiesto di andare da lui" ha detto l'uomo al giornalista.

"Ho detto: 'Non voglio che la mia faccia sia mostrata su niente. Se voglio coprirmi la faccia, mi coprirò la faccia, non sta a loro dirmi di non farlo'", ha concluso l'uomo al giornalista.

In otto processi a Londra tra il 2016 e il 2018, la tecnologia ha dato "falsi positivi" identificando erroneamente le persone come sospette di reato quando una persona è passata attraverso un'area con una telecamera per il riconoscimento facciale.

L'organizzazione Big Brother Watch, che ha ricevuto i dati attraverso una richiesta di libertà di informazione, ha chiesto alla polizia di abbandonare l'uso della tecnologia, ed ha ulteriormente messo in guardia sulle conseguenze orwelliane dell'uso, sostenendo che "viola i diritti umani fondamentali che proteggono la privacy e la libertà di espressione".

"Questo è un punto di svolta per le libertà civili nel Regno Unito. Se la polizia va avanti con la sorveglianza del riconoscimento facciale, i membri del pubblico potrebbero essere rintracciati attraverso le colossali reti CCTV della Gran Bretagna", ha detto il direttore Silkie Carlo. "Per una nazione che si è opposta alle carte d'identità e ha rifiutato il database nazionale del DNA, l'idea del riconoscimento facciale dal vivo che trasforma i cittadini in carte d'identità ambulanti è agghiacciante".

Inoltre, secondo Big Brother Watch, la polizia ha ottenuto un tasso di errore di identificazione del 100% in due distinti schieramenti presso i centri commerciali Westfield a Stratford, di Londra, due volte. E' un pensiero orribile che questa tecnologia venga ora utilizzata per tormentare i cittadini che fanno acquisti.

E' risaputo che la tecnologia di riconoscimento facciale è attualmente (o sarà) testata nei supermercati britannici per verificare l'età dei cittadini che acquistano alcolici e sigarette presso speciali macchine di autoverifica. L'azienda responsabile dei dispositivi da utilizzare nei supermercati, secondo il Telegraph, è la società statunitense NCR che produce macchine di autocontrollo per Asda, Tesco e altri supermercati britannici.

NCR ha annunciato l'integrazione della tecnologia di riconoscimento facciale di Yoti con le sue casse "FastLane" nei supermercati. Fastlanes sono attualmente utilizzate dai rivenditori britannici Tesco, Sainsbury's, Marks & Spencer, Boots e WHSmith. Anche se non tutti questi rivenditori faranno parte del programma di test pilota, è importante notare quanto possa essere diffuso.

Nel frattempo, centinaia di negozi al dettaglio e presto migliaia di persone stanno investigando sull'utilizzo un altro software di riconoscimento facciale biometrico chiamato FaceFirst per costruire un database di taccheggiatori come mezzo di antifurto. FaceFirst è progettato per scansionare i volti fino a 15-30 metri di distanza. Mentre i clienti attraversano l'ingresso di un negozio, la videocamera cattura immagini ripetitive di ogni cliente e sceglie quella più chiara da memorizzare.

Il software analizza poi quell'immagine e la confronta con un database di "clienti cattivi" che il rivenditore ha compilato; se c'è una corrispondenza, il software invia un avviso ai dipendenti che un cliente "ad alto rischio" è entrato. Il futuro dello shopping sembra fare l'occhiolino a scanner biometrici, una prospettiva preoccupante per gli amanti della privacy.

Diversi gruppi di sostenitori della privacy, avvocati e recentemente, anche Microsoft (che tra l'altro commercializza un proprio sistema di riconoscimento facciale), hanno tutti sollevato preoccupazioni sulla tecnologia, indicando le questioni del consenso, il profilo razziale e la possibilità di utilizzare le immagini raccolte attraverso le telecamere di riconoscimento facciale come prova di colpevolezza penale da parte delle forze dell'ordine.

"Non vogliamo vivere in un mondo in cui i burocrati governativi possono inserire il tuo nome in un database e ottenere una registrazione di dove sei stato e quali sono le tue associazioni e attività finanziarie, politiche, sessuali e mediche", ha detto Jay Stanley, un avvocato dell'ACLU, a BuzzFeed News sull'uso di telecamere per il riconoscimento facciale nei negozi al dettaglio. "E non vogliamo un mondo in cui le persone vengono fermate e disturbate dalle autorità perché assomigliano a qualche personaggio spaventoso".

Ma i problemi della tecnologia attualmente sono molti. L'ACLU ha sottolineato come software "Rekognition" (per il riconoscimento facciale) di Amazon abbia erroneamente identificato 28 membri del Congresso come persone che sono state arrestate per crimini. Forse la tecnologia stava cercando di dirci qualcosa (sic!)? Ma allora avrebbe dovuto etichettare come criminali anche altri, oltre ai semplici membri afro-americani del Congresso (Congressional Black Caucus).  Allora le possibilità sono solo due: O la tecnologia ha un pregiudizio razziale, oppure questa è solo la prova di quanto sia imprecisa la tecnologia stessa.

Anche un altro test sulla tecnologia di riconoscimento facciale in Gran Bretagna, che ha portato a 35 falsi positivi e 1 arresto errato. Si è così dimostrato che la tecnologia è tutt'altro che infallibile.

Molti probabilmente ridevano anni fa, quando in molti mettevano in guardia da questo scenario orwelliano, Minority Report nel 2002, era solo un film di fantascienza; tuttavia, di recente Amazon ha annunciato di voler creare un "Crime News Network" per monitorare i quartieri con le sue telecamere di riconoscimento facciale del campanello Ring. A questo punto, stanno letteralmente creando il 1984 di George Orwell o reinventando la Stasi.

Monti dipendenti di Amazon che sono contro l'azienda che vende la tecnologia di riconoscimento facciale al governo hanno protestato contro la decisione dell'azienda. Oltre 20 gruppi di azionisti hanno inviato diverse lettere al CEO di Amazon Jeff Bezos, invitandolo a smettere di vendere il software di riconoscimento facciale dell'azienda alle forze dell'ordine.

"Siamo preoccupati che la tecnologia possa essere usata per colpire e sorvegliare in modo ingiusto e sproporzionato le persone di colore, gli immigrati e le organizzazioni della società civile", hanno scritto gli azionisti, che secondo quanto riferito includono Social Equity Group e Northwest Coalition for Responsible Investment. "Siamo preoccupati che le vendite possano essere estese a governi stranieri, compresi i regimi autoritari."

Un'altra lettera è stata inviata nel gennaio 2019, da Open Mic, un'organizzazione no-profit focalizzata sulla responsabilità aziendale, sottolineando che la tecnologia pone "potenziali rischi per i diritti civili e umani".

Numerose organizzazioni per i diritti civili hanno anche firmato una lettera in cui si chiede ad Amazon di smettere di aiutare il governo nella sorveglianza; e diversi membri del Congresso hanno espresso preoccupazione per i partenariati. Sempre sul software di riconoscimento facciale di Amazon, diversi legislatori negli Stati Uniti sono intervenuti esprimendo la preoccupazione che potrebbe essere utilizzato in modo improprio.

L'American Civil Liberties Union (ACLU) ha ottenuto centinaia di pagine di documenti che mostrano come Amazon offre il software alle forze dell'ordine in tutto il paese. In un rapporto del 2018, l'ACLU ha definito il progetto di riconoscimento facciale di Amazon una "minaccia alle libertà civili".

Amazon ha risposto ignorando le preoccupazioni dei dipendenti e degli azionisti facendo sapere che il team è "saldamente" impegnato con il governo degli Stati Uniti.
"Siamo fermamente a sostegno della nostra comunità, delle forze dell'ordine, della difesa e dell'intelligence", ha dichiarato Teresa Carlson, vice presidente del settore pubblico mondiale per Amazon Web Services, ha dichiarato il 20 luglio all'Aspen Security Forum in Colorado. Amazon ha poi pubblicato un aggiornamento sostenendo di aver risolto tutti i problemi di illuminazione che, secondo l'azienda, hanno causato l'imprecisione dei suoi sistemi.

Questo fa seguito anche a un rapporto del Government Accountability Office (GAO) degli Stati Uniti sulla tecnologia di riconoscimento facciale che l'FBI sta utilizzando per Next Generation Identification-Interstate Photo System, dopo il fallimento dei test sulla privacy e la precisione. Nel 2018 abbiamo appreso che l'FBI ed altre forze dell'ordine stavano utilizzando la stessa tecnologia di riconoscimento facciale di Amazon per vagliare i dati di sorveglianza.

Defense One riferisce che "Le telecamere abilitate all'Intelligenza Artificiale che "percepiscono" il crimine prima che si verifichi, e che presto invaderanno il mondo" sono nei lavori e in mostra all'ISC West, una recente conferenza sulla tecnologia sulla sicurezza a Las Vegas.Sembra che l'ascesa della tecnologia di riconoscimento facciale è inevitabile e, di conseguenza, anche la morte della privacy.

La YITU Technology a Shanghai è all'avanguardia nel settore del riconoscimento facciale, essendo in grado di identificare una persona in pochi secondi da un database di persone, anche se il suo volto è parzialmente visibile, Secondo un articolo della CNBC.

L'evoluzione della tecnologia di riconoscimento facciale è ulteriormente documentata dai ricercatori dell'Università di Bradford i quali hanno scoperto che "la tecnologia di riconoscimento facciale funziona anche quando è visibile solo mezza faccia", secondo EurekAlert. Questa tecnologia aggiornata non è stata testata dalla polizia secondo l'autore dell'articolo, ma se lo fosse, sarebbe un altro duro attacco alle libertà civili e alla privacy.

In altre parti del mondo, il riconoscimento facciale e l'uso della biometria stanno ugualmente emergendo. A Malta, il Primo Ministro Joseph Muscat ha recentemente confermato i piani per implementare il riconoscimento facciale nelle telecamere di sorveglianza CCTV intorno alle zone del paese.

"La polizia sta facendo un buon lavoro, ma c'è ancora molto lavoro da fare per rafforzare l'applicazione", ha detto Muscat in un'intervista su ONE Radio. "Stiamo esaminando i concetti di città sicura per prevenire comportamenti antisociali, per cui i sistemi di videosorveglianza a circuito chiuso con tecnologia in grado di identificare le violazioni della legge possono eliminare la necessità di avere la polizia di stanza 24/7 in determinate aree".

Nel frattempo, la Cina sta progettando di fondere i suoi oltre 170 milioni di telecamere di sicurezza con l'intelligenza artificiale e la tecnologia di riconoscimento facciale per creare uno stato di mega-sorveglianza. Questo si aggiunge al "sistema di credito sociale" cinese che classifica i cittadini in base al loro comportamento, e premia e punisce a seconda dei punteggi.

La Russia non è da meno, è stato recentemente riportato che anche Mosca sta implementando sistemi per rendere schiavi i suoi cittadini con una draconiana rete di sorveglianza, esaminando a quale azienda dovrebbe dare un contratto per la tecnologia di riconoscimento facciale, come riportato da Defense One.

Tra i principali contendenti dell'incarico c'è NtechLab, una startup AI la cui tecnologia di riconoscimento facciale FindFace ha vinto il premio IARPA Face Recognition Challenge nel 2017. In una recente intervista al quotidiano russo RiaNovosti, il CEO Artem Kuharenko ha detto che FindFace opera come parte dei programmi di sorveglianza pilota in varie città russe; solo nella regione del Tartarstan, ha detto, quasi 2.000 crimini sono stati risolti l'anno scorso con l'aiuto della videosorveglianza.

Un altro concorrente è IVA Cognitive, che sviluppa il sistema di analisi video IVACV. Nell'intervista a RiaNovosti, l'amministratore delegato di IVA Alexey Tsessarsky ha ipotizzato che "forse la città sceglierà una società o organizzerà qualcosa come un consorzio di più società. I funzionari divideranno le telecamere tra le aziende per vedere come ciascuno di loro affronta il compito. In questo modo, la concorrenza continuerà e la tecnologia continuerà a svilupparsi. Già da qualche anno la Russia cerca di integrare il riconoscimento emotivo nella sua rete di telecamere a circuito chiuso in giro per Mosca.

Il consenso ad essere identificati dal governo quando e ovunque andiamo è il nulla osta affinché il governo decida se, quando e dove siamo autorizzati ad andare come succede già in Cina, e questo è molto pericoloso.

La parte peggiore è che le agenzie di intelligence sarebbero in grado di utilizzare il loro apparato di sorveglianza di telecamere a circuito chiuso interconnesso con aziende come Facebook che utilizzano la tecnologia per tracciare la posizione di qualcuno in tempo reale.

Ciò che sta accadendo in particolare, nel Regno Unito e negli Stati Uniti, ma anche altrove è l'inizio di uno stato di polizia, una Stasi globale del XXI secolo che farà sembrare il 1984 di George Orwell e Minority Report un paradiso rispetto al nostro potenziale futuro da incubo non tanto lontano. Urge la necessità di svegliarsi e rendersi conto che siamo sull'orlo di una catastrofe per le libertà civili, per cui hanno combattuto e dato la vita i nostri avi. Ogni uomo, donna e bambino su questo pianeta sarà schedato grazie (sic!) all'Intelligenza Artificiale, queste tecnologie di riconoscimento facciale e la sorveglianza permanente. Le generazioni future sono destinate a vivere schiavizzate dall'invasione della privacy della tecnologia di riconoscimento facciale con il nostro "silenzio/assenso". Se acconsentiamo, normalizziamo questo tipo di tecnologia e stiamo dicendo al complesso militare-industriale e alla polizia che è giusto tutto questo e che nostri diritti non hanno nessuna impostanza. Se li affrontiamo invece, come a San Francisco, lottiamo per i nostri diritti e non ci saranno tolti.

Leggi anche:

• Perché "non avere nulla da nascondere" non è un motivo per accettare la sorveglianza di massa
• Perché si deve santuarizzare il diritto all'anonimato
• Stato di Polizia Globale