Els documents obtinguts per Amnistia Internacional i el Projecte Supervisió de la Tecnologia de Vigilància (STOP, per les seves sigles en anglès), un grup de defensa de la privacitat i els drets civils basat a Nova York, després d'una demanda de cinc anys de durada contra el Departament de Policia de Nova York (NYPD) revela preocupants abusos relacionats amb la vigilància contra manifestants i comunitats racialitzades, inclòs el freqüent ús de tecnologia de reconeixement facial que comporta violacions de drets humans, com l'automatització de la discriminació racial.

L'anàlisi dut a terme per Amnistia Internacional i STOP dels més de 2.700 documents fins a la data revela el Departament de Policia va utilitzar tecnologia de reconeixement facial en diverses ocasions, sotmetent a la població de Nova York a tecnologies invasives, irregulars i profundament discriminatòries.

Els documents van revelar a més que la tecnologia s'havia utilitzat per a identificar a persones basant-se en informes no sol·licitats de gent que considerava a determinats individus sospitosos pel fet de parlar un idioma diferent o vestir robes culturalment distintives.

“Nova York promet ser una ciutat santuari, però el que hem creat ha estat ni més ni menys que un estat de vigilància”, ha manifestat Michelle Dahl, directora executiva del Projecte Supervisió de la Tecnologia de Vigilància. “Aquestes tecnologies costoses, proclius a l'error i esbiaixades estan consumint milers de milions de dòlars. La vigilància duta a terme pel Departament de Policia posa a la població de la nostra ciutat en perill de patir detencions falses, deportació o coses pitjors. Fa ja molt que la població de Nova York hauria de ser conscient de la manera distòpica en què el Departament de Policia ens vigila a tots. És hora que els legisladors passin a l'acció i facin rendir comptes al Departament de Policia de Nova York, prohibint per llei el reconeixement facial i imposant una supervisió civil autèntica.”

El reconeixement facial viola el dret a la privacitat mitjançant l'extracció massiva de dades a partir d'imatges sense el coneixement ni el consentiment de les persones afectades. Està impregnat de biaix racial, afecta desproporcionadament a les comunitats negres i de pell fosca, i mitjançant el seu efecte dissuasiu suprimeix la protesta pacífica i la llibertat d'expressió. Per aquests motius, centenars d'organitzacions consideren que aquesta tecnologia és il·legal. Amnistia Internacional i STOP fa molt temps que demanen que es prohibeixin l'ús, el desenvolupament, la producció i la venda de tecnologia de reconeixement facial amb finalitats d'identificació i vigilància massiva per part de les forces encarregades de fer complir la llei i altres agències governamentals.

En la seva anàlisi dels documents lliurats, els grups van concloure que la vigilància duta a terme pel Departament de Policia de Nova York sovint posa en perill a comunitats marginades. Així mateix, els registres del Departament de Policia van documentar l'establiment de perfils de residents de Nova York basats en l'idioma, l'ètnia i altres característiques protegides.

Les conclusions inicials de l’anàlisi dels més de 2.700 documents del Departament de Policia de Nova York mostren que:

• A 17 d’abril de 2020, el Departament de Policia ja havia gastat més de cinc milions de dòlars en tecnologia de reconeixement facial entre 2019 i 2020, i està gastant almenys 100.000 dòlars més cada any.
• El Departament de Policia de Nova York va deixar de fer un seguiment de la precisió del reconeixement facial el 2015 després de concloure que el marge d’error era massa alt.
• Agents del Departament de Policia de Nova York van conspirar amb el Servei de Marshals dels Estats Units per contractar il·lícitament una empresa controvertida de reconeixement facial per vigilar un compte privat d’Instagram, cosa que viola la política de reconeixement facial del Departament.
• El 31 de desembre de 2019, el Departament de Policia de Nova York va utilitzar el reconeixement facial per vigilar residents de la ciutat que utilitzaven argot per descriure Times Square a les xarxes socials, per exemple: “NYE in Times Square is da BOMB” [manera col·loquial de dir que la nit de Cap d’Any a Times Square és espectacular], en una clara vulneració perillosa i excessivament àmplia del dret a la llibertat d’expressió, a més d’ignorar el context cultural i lingüístic.
• El Departament de Policia de Nova York ha utilitzat el reconeixement facial i l’aplicació selectiva de la llei contra persones que el criticaven: per exemple, l’1 de febrer de 2020, quan presumptament van identificar i detenir una persona per fer un grafit que deia “FTP”, una abreviatura habitual de “fuck the police” (que es foti la policia), en un context de dissidència i protestes creixents contra la brutalitat policial.
• Les persones residents a Nova York van ser objecte de perfilatge racial per part del Departament de Policia, i dos homes van ser assenyalats erròniament pel reconeixement facial durant la celebració de Cap d’Any a Times Square el 31 de desembre de 2019, per no ballar i per parlar un idioma de l’Orient Mitjà. L’informe del programa de reconeixement facial deia: “No anaven acompanyats de dones, no ballaven com la resta de la gent i provocaven en tothom una sensació d’incomoditat [...] En un moment determinat, un d’ells va entrar al lavabo i cridava pel seu telèfon en un idioma de l’Orient Mitjà".
• El 3 de juny de 2020, el Departament de Policia va prendre com a objectiu un “crític controvertit a Twitter”, malgrat reconèixer que no hi havia circumstàncies apressants ni amenaces, i va decidir continuar vigilant tots els seus comptes de xarxes socials sense motiu.
• El 5 de juny de 2020, el Departament de Policia de Nova York va desplegar tecnologia de reconeixement facial per identificar un manifestant de Black Lives Matter (BLM) per escriure de manera hiperbòlica “els polis haurien de morir” en una publicació a les xarxes socials.
• El 22 d’abril de 2020, el Departament de Policia va utilitzar tecnologia de reconeixement facial per identificar dos cantants únicament pel contingut del seu videoclip musical, cosa que en la pràctica va sotmetre els artistes a una roda de reconeixement virtual i va violar la seva llibertat d’expressió.

“El nostre anàlisi demostra múltiples casos de discriminació i abús mitjançant la utilització del reconeixement facial, una conclusió que reforça allò que la nostra investigació anterior ha identificat sistemàticament com un menyspreu envers la seguretat de les comunitats negres i de persones de pell fosca a la ciutat de Nova York”, ha afirmat Matt Mahmoudi, investigador i assessor sobre intel·ligència artificial i drets humans d’Amnistia Internacional. “El Departament de Policia de Nova York fa massa temps que evita l’escrutini i s’ha beneficiat de la manca de transparència per invertir il·legalment en tecnologia de reconeixement facial, i també per utilitzar-la il·legalment, amb la finalitat de limitar el dret de les persones a la privacitat, la igualtat i la no discriminació, així com el seu dret a la llibertat d’expressió i de reunió pacífica.”

Informació complementària

Al setembre de 2020, Amnistia Internacional va presentar una sol·licitud d'informació pública, en virtut de la Llei de Llibertat d’Informació, per obtenir documents del Departament de Policia de Nova York sobre la labor de vigilància que havia realitzat de les històriques protestes del moviment Black Lives Matter celebrades aquell mateix any. El 2021, el Departament de Policia va denegar la sol·licitud d’Amnistia Internacional i el recurs administratiu. STOP i l’empresa líder en dret processal Quinn Emanuel Urquhart & Sullivan, LLP van demandar llavors el Departament de Policia de Nova York en nom d’Amnistia Internacional i van demanar una ordre judicial que obligués a lliurar els documents sol·licitats. El 2022, la Cort Suprema de Nova York per al comtat de Nova York va ordenar al Departament de Policia que fes públics més de 2.700 documents sobre la vigilància de BLM.

També el 2022, Amnistia Internacional, STOP i entitats associades de la coalició novaiorquesa Ban the Scan (Veto a l’escaneig) van revelar que la població que viu a les zones de Nova York amb més probabilitat de ser sotmesa a la mesura de “donar l’alt i registrar” també està més exposada a la tecnologia de reconeixement facial. Els grups també van demostrar que les zones de població no blanca del Bronx, Brooklyn i Queens tenien una major concentració de càmeres de vigilància policial.

Actualment, Amnistia Internacional, STOP i la coalició Ban the Scan demanen als membres de l’ajuntament que prohibeixin el reconeixement facial. Aquesta prohibició inclou dues mesures que ja han obtingut el suport de la majoria de l’ajuntament. A més, les organitzacions demanen al Departament de Policia i a l’alcalde de Nova York que es comprometin a posar fi immediatament a l’ús d’aquesta tecnologia discriminatòria, invasiva i procliu a l’error.