FRANCIA ► La sorveglianza di massa dell'IA in atto per le Olimpiadi 2024 è qui per restare

Le Olimpiadi di Parigi del 2024 attirano gli occhi del mondo mentre migliaia di atleti e personale di supporto e centinaia di migliaia di visitatori da tutto il mondo convergono in Francia. Non saranno solo gli occhi del mondo a guardare. Anche i sistemi di intelligenza artificiale guarderanno.

Le società governative e private useranno strumenti di intelligenza artificiale avanzati e altre tecnologie di sorveglianza per condurre una sorveglianza pervasiva e persistente prima, durante e dopo i Giochi. La scena mondiale olimpica e le folle internazionali comportano maggiori rischi per la sicurezza così significativi che negli ultimi anni autorità e critici hanno descritto le Olimpiadi come “le più grandi operazioni di sicurezza al di fuori della guerra.”

Il governo francese, di pari passo con il settore della tecnologia privata, ha sfruttato quella legittima necessità di una maggiore sicurezza come motivo per implementare strumenti di sorveglianza e raccolta dati tecnologicamente avanzati. I suoi piani di sorveglianza per far fronte a tali rischi, incluso l'uso controverso della videosorveglianza sperimentale dell'IA, sono così estesi che il paese ha dovuto modificare le sue leggi per rendere legale la sorveglianza pianificata.

Il piano va oltre i nuovi sistemi di videosorveglianza AI. Secondo le notizie, l'ufficio del primo ministro ha negoziato un decreto provvisorio classificato per consentire al governo di aumentare in modo significativo gli strumenti tradizionali e surrettizi di sorveglianza e raccolta di informazioni per la durata dei Giochi. Questi includono intercettazioni telefoniche; raccolta di dati di geolocalizzazione, comunicazioni e computer; e acquisire maggiori quantità di dati visivi e audio.

Sono un professore di legge e avvocato, e faccio ricerche, insegno e scrivo su privacy, intelligenza artificiale e sorveglianza. Fornisco inoltre indicazioni legali e politiche su questi argomenti ai legislatori ed altri. L'aumento dei rischi per la sicurezza può e richiede una maggiore sorveglianza. Quest'anno la Francia ha dovuto affrontare preoccupazioni per le sue Capacità di sicurezza olimpica e minacce credibili intorno a eventi sportivi pubblici.

Le misure preventive dovrebbero tuttavia essere proporzionali ai rischi. A livello globale, i critici sostengono che la Francia sta utilizzando le Olimpiadi come una presa di potere di sorveglianza e che il governo utilizzerà questa giustificazione di sorveglianza “eccezionale” per normalizzare la sorveglianza statale a livello sociale.

Allo stesso tempo, vi sono legittime preoccupazioni riguardo a una sorveglianza adeguata ed efficace per la sicurezza. Negli Stati Uniti, ad esempio, la nazione si chiede come la sorveglianza di sicurezza dei servizi segreti non sia riuscita a prevenire il tentativo di omicidio dell’ex presidente Donald Trump il 13 luglio 2024.

Sorveglianza di massa alimentata dall'IA

Grazie alle leggi sulla sorveglianza recentemente ampliate, le autorità francesi hanno collaborato con le società di intelligenza artificiale Videtics, Orange Business, ChapsVision e Wintics per implementare una vasta videosorveglianza con intelligenza artificiale. Hanno utilizzato la sorveglianza basata sull’intelligenza artificiale durante i principali concerti, eventi sportivi e nelle stazioni della metropolitana e dei treni durante i periodi di utilizzo intenso, incluso un concerto di Taylor Swift e il Festival di Cannes. Funzionari francesi hanno affermato che questi esperimenti di sorveglianza dell’intelligenza artificiale sono andati bene e che “le luci sono verdi” per usi futuri.

Il software AI in uso è generalmente progettato per segnalare determinati eventi come cambiamenti nelle dimensioni e nel movimento della folla, oggetti abbandonati, presenza o uso di armi, un corpo a terra, fumo o fiamme e alcune violazioni del codice stradale. L'obiettivo è che i sistemi di sorveglianza rilevino immediatamente, in tempo reale, eventi come una folla che si dirige verso un cancello o una persona che lascia uno zaino all'angolo di una strada affollata e allertino il personale di sicurezza. Segnalare questi eventi sembra un uso logico e sensato della tecnologia.

Ma le vere questioni legali e di privacy derivano dal modo in cui questi sistemi funzionano e vengono utilizzati. Quanti e quali tipi di dati devono essere raccolti e analizzati per segnalare questi eventi? Quali sono i dati di addestramento dei sistemi, i tassi di errore e le prove di parzialità o inesattezza? Cosa viene fatto con i dati dopo che sono stati raccolti e chi può accedervi? C’è poco in termini di trasparenza per rispondere a queste domande. Nonostante le misure di salvaguardia volte a prevenire l’uso di dati biometrici in grado di identificare le persone, è possibile che i dati di addestramento raccolgano queste informazioni e i sistemi possano essere adattati per utilizzarle.

Dando a queste aziende private l’accesso a migliaia di videocamere già dislocate in tutta la Francia, sfruttando e coordinando le capacità di sorveglianza delle compagnie ferroviarie e degli operatori dei trasporti e consentendo l’uso di droni dotati di telecamere, la Francia autorizza e sostiene legalmente queste aziende a testare e formare Software di intelligenza artificiale sui suoi cittadini e visitatori.

Sorveglianza di massa legalizzata

Sia la necessità che la pratica della sorveglianza governativa alle Olimpiadi non sono una novità. Le preoccupazioni per la sicurezza e la privacy alle Olimpiadi invernali del 2022 a Pechino erano così elevate che l’FBI ha invitato “tutti gli atleti” a lasciare i cellulari personali a casa e a utilizzare solo un telefono prepagato mentre si trovavano in Cina a causa dell’estremo livello di sorveglianza governativa.

La Francia, tuttavia, è uno stato membro dell’Unione Europea. Il regolamento generale sulla protezione dei dati dell’UE è una delle leggi sulla privacy dei dati più severe al mondo e l’AI Act dell’UE sta guidando gli sforzi per regolamentare gli usi dannosi delle tecnologie di intelligenza artificiale. In quanto membro dell’UE, la Francia deve seguire la legislazione dell’UE.

In preparazione alle Olimpiadi, nel 2023 la Francia ha promulgato la legge n. 2023-380, un pacchetto di leggi per fornire un quadro giuridico per le Olimpiadi del 2024. Comprende il controverso articolo 7, una disposizione che consente alle forze dell’ordine francesi e ai suoi appaltatori tecnologici di sperimentare la videosorveglianza intelligente prima, durante e dopo le Olimpiadi del 2024, e l’articolo 10, che consente specificamente l’uso di software di intelligenza artificiale per rivedere video e telecamere. Queste leggi rendono la Francia il primo paese dell’UE a legalizzare un sistema di sorveglianza di così ampia portata basato sull’intelligenza artificiale.

Studiosi, gruppi della società civile e difensori delle libertà civili hanno sottolineato che questi articoli sono contrari al regolamento generale sulla protezione dei dati e agli sforzi dell’UE per regolamentare l’IA. Sostengono che l’articolo 7 viola specificamente le disposizioni del regolamento generale sulla protezione dei dati che proteggono i dati biometrici.

Funzionari francesi e rappresentanti di aziende tecnologiche hanno affermato che il software di intelligenza artificiale può raggiungere i suoi obiettivi di identificare e segnalare quei tipi specifici di eventi senza identificare persone o entrare in conflitto con le restrizioni del regolamento generale sulla protezione dei dati relative al trattamento dei dati biometrici. Ma le organizzazioni europee per i diritti civili hanno sottolineato che se lo scopo e la funzione degli algoritmi e delle telecamere guidate dall’intelligenza artificiale è quello di rilevare specifici eventi sospetti negli spazi pubblici, questi sistemi necessariamente “cattureranno e analizzeranno le caratteristiche e i comportamenti fisiologici” delle persone in questi spazi. Questi includono posizioni del corpo, andatura, movimenti, gesti e aspetto. I critici sostengono che si tratta di dati biometrici che vengono acquisiti ed elaborati, e quindi la legge francese viola il regolamento generale sulla protezione dei dati.

Sicurezza basata sull'intelligenza artificiale, a un costo

Per il governo francese e le società di intelligenza artificiale finora la sorveglianza dell’intelligenza artificiale è stata un successo reciprocamente vantaggioso. Gli osservatori algoritmici vengono utilizzati di più e forniscono ai governi e ai loro collaboratori tecnologici molti più dati di quelli che gli esseri umani da soli potrebbero fornire.

Ma questi sistemi di sorveglianza abilitati all’intelligenza artificiale sono scarsamente regolamentati e soggetti a pochi test indipendenti. Una volta raccolti i dati, il potenziale per ulteriori analisi dei dati e invasioni della privacy è enorme.

Fonte: https://thefreethoughtproject.com/

Segui @vocidallastrada anche su Telegram