L’8 dicembre 2023 i legislatori dell’UE hanno festeggiato il raggiungimento di un accordo sulla tanto attesa legge sull’intelligenza artificiale (AI) . I principali parlamentari hanno rassicurato i loro colleghi di aver mantenuto una forte tutela dei diritti umani, inclusa l’esclusione della sorveglianza di massa biometrica (BMS).
Eppure, nonostante la spavalderia dei legislatori, la legge sull’intelligenza artificiale non vieterà la stragrande maggioranza delle pratiche pericolose di BMS . Invece, introdurrà – per la prima volta nell’UE – condizioni su come utilizzare questi sistemi. I membri del Parlamento europeo (MEP) e i ministri degli Stati membri dell’UE voteranno se accettare l’accordo finale nella primavera del 2024.
L’UE sta facendo la storia – per le ragioni sbagliate
La coalizione Reclaim Your Face sostiene da tempo che le pratiche BMS sono soggette a errori e rischiose per natura , e non trovano posto in una società democratica . La polizia e le autorità pubbliche hanno già a portata di mano tantissime informazioni su ognuno di noi; non hanno bisogno di essere in grado di identificarci e profilarci continuamente, oggettivando i nostri volti e i nostri corpi con la semplice pressione di un pulsante.
Tuttavia, nonostante la forte posizione negoziale del Parlamento europeo che ha chiesto di vietare la maggior parte delle pratiche BMS, ben poco è sopravvissuto ai negoziati sull’AI Act. Sotto la pressione dei rappresentanti delle forze dell’ordine, il Parlamento è stato costretto ad accettare solo deboli limitazioni alle pratiche intrusive dei BMS.
Una delle poche garanzie biometriche apparentemente sopravvissute ai negoziati – una restrizione all’uso del riconoscimento facciale retrospettivo – è stata da allora sminuita nelle successive discussioni cosiddette “tecniche”.
Una delle poche garanzie biometriche apparentemente sopravvissute ai negoziati – una restrizione all’uso del riconoscimento facciale retrospettivo – è stata da allora sminuita nelle successive discussioni cosiddette “tecniche”.
Nonostante le promesse dei rappresentanti spagnoli incaricati dei negoziati che nulla di sostanziale sarebbe cambiato dopo l’8 dicembre, questo indebolimento delle protezioni contro il riconoscimento facciale retroattivo è un’ulteriore delusione nella nostra lotta contro una società BMS.
Cosa c’è nell’accordo?
Sulla base di quanto abbiamo visto del testo finale, l’ AI Act è destinato a essere un’occasione mancata per proteggere le libertà civili . I nostri diritti di partecipare a una protesta, di accedere all’assistenza sanitaria riproduttiva o persino di sederci su una panchina potrebbero ancora essere messi a repentaglio dalla pervasiva sorveglianza biometrica. Le restrizioni sull’uso del riconoscimento facciale dal vivo e retrospettivo nella legge sull’AI saranno minime e non si applicheranno alle società private o alle autorità amministrative.
Siamo inoltre delusi dal fatto che, per quanto riguarda il cosiddetto ” riconoscimento delle emozioni ” e le pratiche di categorizzazione biometrica, nel testo finale siano vietati solo casi d’uso molto limitati, con enormi lacune.
Ciò significa che la legge sull’intelligenza artificiale consentirà molte forme di riconoscimento delle emozioni – come l’utilizzo da parte della polizia di sistemi di intelligenza artificiale per prevedere chi sta o non sta dicendo la verità – nonostante questi sistemi siano privi di basi scientifiche credibili. Se adottato in questa forma, l’AI Act legittimerà una pratica che nel corso della storia è stata collegata all’eugenetica.
Sarà inoltre consentito alla polizia di classificare le persone nei feed delle telecamere a circuito chiuso in base al colore della pelle . È difficile capire come ciò possa essere ammissibile dato che la legislazione europea vieta la discriminazione, ma a quanto pare, quando viene eseguita da una macchina, i legislatori lo considerano accettabile.
Eppure almeno una cosa è emersa per ragioni positive dopo i negoziati finali: l’ accordo limiterebbe il riconoscimento facciale pubblico (retrospettivo) al perseguimento di gravi crimini transfrontalieri . Sebbene la campagna Reclaim Your Face avesse richiesto regole ancora più severe al riguardo, sarebbe stato comunque un miglioramento significativo rispetto alla situazione attuale, in cui gli Stati membri dell’UE utilizzano il riconoscimento facciale retrospettivo con abbandono .
Questa sarebbe stata una vittoria per il Parlamento in mezzo a così tanto terreno ceduto alla biometria. Tuttavia, nel periodo trascorso dal negoziato finale, la pressione dei governi degli Stati membri ha costretto il Parlamento ad accettare di eliminare la limitazione ai reati gravi transfrontalieri e di indebolire le restanti garanzie [paywalled]. Ora, anche solo un vago collegamento alla “minaccia” di un reato potrebbe essere sufficiente per giustificare l’uso del riconoscimento facciale retrospettivo degli spazi pubblici.
Secondo quanto riferito, il paese che guida l’accusa di schiacciare il nostro diritto a essere protetti dagli abusi dei nostri dati biometrici è la Francia. In vista delle Olimpiadi e delle Paralimpiadi di Parigi che si svolgeranno entro la fine dell’anno, la Francia ha combattuto per preservare o espandere i poteri dello Stato per sradicare il nostro anonimato negli spazi pubblici e per utilizzare sistemi di intelligenza artificiale opachi e inaffidabili per affermare di sapere cosa stiamo pensando. I governi degli altri Stati membri e i principali negoziatori del Parlamento non sono riusciti a fermarli.
Secondo questa nuova legge, saremo colpevoli secondo un algoritmo fino a prova contraria – e l’UE avrà il timbro della sorveglianza biometrica di massa. Ciò darà carta bianca ai paesi dell’UE per implementare una maggiore sorveglianza dei nostri volti e dei nostri corpi, il che a sua volta costituirà un agghiacciante precedente globale.
ReclaimYourFace è un movimento guidato da organizzazioni della società civile in tutta Europa
Il contenuto originale è stato condiviso con la licenza CC-BY 4.0 (se non diversamente specificato). Ciò significa che sei libero di condividerlo e adattarlo, purché ti ricordi di darne il credito appropriato
I commenti sono disabilitati, ma se vuoi segnalare un errore o aggiungere un contributo, puoi scriverci su Twitter o su Mastodon
