Amnistia Internacional emprèn avui una campanya global per demanar que es prohibeixi l'ús dels sistemes de reconeixement facial, una forma de vigilància massiva que amplifica l'actuació policial racista i amenaça el dret de manifestació.

La campanya Ban the Scan ("Prohibiu l'escaneig") arrenca a la ciutat de Nova York (Estats Units) i s'ampliarà després a altres parts del món per centrar-se en l'ús del reconeixement facial el 2021. Els sistemes de reconeixement facial són una forma de vigilància massiva que viola el dret a la privacitat i amenaça el dret a la llibertat de reunió pacífica i d'expressió.

La tecnologia aprofundeix el racisme sistèmic, perquè pot afectar de manera desproporcionada les persones negres, que són ja objecte de discriminació i violacions dels seus drets humans a mans dels agents encarregats de fer complir la llei. Les persones negres també són les que corren més risc de ser identificades erròniament pels sistemes de reconeixement facial.

"El reconeixement facial comporta el risc que els organismes encarregats de fer complir la llei l'utilitzin com a instrument contra les comunitats marginades a tot el món. De Nova Delhi a Nova York, aquesta tecnologia invasiva ens posa la nostra identitat en contra i amenaça els drets humans", ha afirmat Matt Mahmoudi, investigador d'Amnistia Internacional sobre intel·ligència artificial i drets humans.

"La ciutadania de Nova York ha de poder sortir de casa sense ser rastrejada per mitjans de reconeixement facial. Altres grans ciutats dels Estats Units ja han prohibit el reconeixement facial, i Nova York ha de fer el mateix".

A Nova York, Amnistia Internacional s'ha sumat a Inteligencia Artificial per a les Persones, el Projecte de Supervisió de les Tecnologies de Vigilància, el Projecte de Defensa dels Immigrants, la Unió per les Llibertats Civils de Nova York, la Defensoria del Poble de Nova York, la Coalició de Nova York per la Privacitat, el senador estatal Brad Hoylman i Rada Studios per sumar forces en una campanya en favor de la promulgació de legislació que prohibeixi que els organismes encarregats de fer complir la llei utilitzin tecnologia de reconeixement facial per la vigilància massiva a la ciutat.

"L'ús policial de tecnologia de reconeixement facial posa a novaiorquesos i novaiorqueses innocents en una roda policial de reconeixement permanent i viola el nostre dret a la privacitat. El reconeixement facial és un procediment omnipresent i no regulat que ha de prohibir-se", ha assenyalat Mutale Nkonde, fundadora i directora executiva d'Intel·ligència Artificial per a les Persones.

Albert Fox Cahn, director executiu del Projecte de Supervisió de la Tecnologia de Vigilància del Centre de Justícia Urbana, ha afirmat: "El reconeixement facial és parcial, defectuós i radicalment contrari a la democràcia. El Departament de Policia de Nova York porta anys utilitzant el reconeixement facial per rastrejar desenes de milers de novaiorquesos i novaiorqueses, i posa les persones negres en risc de patir detenció falsa i violència policial. Prohibir el reconeixement facial no només protegirà els drets civils, sinó que és una qüestió de vida o mort".

Pot desenvolupar-se tecnologia de reconeixement facial aplegant milions de fotos de perfils de les xarxes socials i de permisos de conduir sense el consentiment de les persones que hi surten. Un programa informàtic fa després una anàlisi facial d'imatges preses amb càmeres de videovigilancia o altres sistemes similars per buscar possibles coincidències en la base de dades de les fotos.

Encara que altres ciutats dels Estats Units, com Boston, Portland i San Francisco han prohibit l'ús de tecnologia facial pels organismes encarregats de fer complir la llei, el Departament de Policia de Nova York continua utilitzant aquesta tecnologia per intimidar i assetjar ciutadans i ciutadanes honrats, com es va comprovar durant les protestes del Black Lives Matter l'any passat

Black Lives Matter

El 7 d'agost de 2020, desenes d'agents del Departament de Policia de Nova York van intentar irrompre a l'apartament de Derrick 'Dwreck' Ingram per detenir-lo. Acusaven Dwreck, cofundador de l'organització de justícia social Warriors in the Garden, d'haver agredit un agent de policia amb un megàfon en una protesta celebrada al juny.

Una càmera va captar davant del domicili de Dwreck un agent que portava el document "Informe principal divulgatiu de la secció d'identificació facial", fet que indicava que probablement s'havia utilitzat reconeixement facial per justificar la detenció de Dwreck. En el document es feia coincidir el rostre de Dwreck amb una foto d'Instagram.

El Departament de Policia de Nova York no va informar-lo dels seus drets, va amenaçar d'esfondrar la porta, va intentar interrogar-lo sense la presència d'un advocat, va utilitzar almenys un helicòpter i drons i va situar desenes d'agents en el passadís de l'edifici, a la sortida d'incendis i en llocs tàctics emplaçats dins i al voltant dels edificis propers. La policia no va marxar fins que Dwreck va començar a transmetre en directe el que estava passant, es va aplegar una gran quantitat de manifestants i els mitjans de comunicació van començar a fer preguntes.

Es va empaperar el barri de Dwreck amb cartells policials de "Es busca" amb fotografies preses sense el seu consentiment del seu compte privat d'Instagram. Encara que el Departament de Policia de Nova York va confirmar al principi que havia utilitzat tecnologia de reconeixement facial, encara ha de desvetllar degudament documentació en el procés legal de Dwreck sobre l'ús de tal tecnologia.

"Aquesta tecnologia s'utilitza específicament per les nostres protestes i perquè estem intentant deconstruir un sistema del qual la policia forma part", ha explicat Dwreck Ingram.

L'impacte discriminatori del reconeixement facial va molt més allà del seu ús contra manifestants pacífics per part dels organismes encarregats de fer complir la llei. A Nova York, els propietaris d'immobles de lloguer no dubten a utilitzar aquesta tecnologia per espiar les comunitats negres i de color.

Entre 2018 i 2019, la comunitat predominantment negra dels edificis Atlantic Plaza Towers d'Ocean Hill-Brownsville, a Brooklyn, es va oposar amb èxit a la instal·lació de càmeres de reconeixement facial, com pretenia fer el propietari, Nelson Management Group.

Als veïns i veïnes que feien campanya contra l'ús del reconeixement facial els van dir que deixessin d'organitzar-se, i el propietari va amenaçar-los amb còpies impreses de fotos seves preses amb càmeres de vigilància. Sota la direcció de Tranae Moran i Fabian Rogers, la comunitat no va cedir. Després d'obrir els llogaters accions judicials per frenar la invasió de la privacitat i el robatori de dades biomètriques de qualsevol que entrés als edificis, i gràcies també a la pressió constant exercida per l'organització comunitària de Tranae i Fabian i la seva col·laboració amb organitzacions de la societat civil i mitjans de comunicació, al novembre de 2019 el Nelson Management Group va anunciar en una reunió de l'associació de llogateres que no instal·laria sistemes de reconeixement facial en els edificis.

El llançament de la campanyaBan the Scand'Amnistia Internacional va acompanyat de la creació d'un lloc web on els veïns i veïnes de Nova York poden generar comentaris sobre l'ús que fa el Departament de Policia de Nova York, a l'empara de la denominada Llei POST, relativa a la supervisió pública de les tecnologies de vigilància, i en una etapa posterior de la campanya, generar sol·licituds de llibertat d'informació per veure on s'utilitza tecnologia de reconeixement facial en les seves comunitats.

El lloc s'ampliarà al maig de 2021, quan Amnesty Decoders, xarxa mundial d'activistes digitals, ajudarà a geolocalizar a Nova York dispositius de vigilància amb capacitat de reconeixement facial perquè els ciutadans i ciutadanes sàpiguen exactament on s'utilitzen. El lloc conté també recursos amb què ajudar la gent a protegir-se millor en les protestes i contra l'ús de tecnologia de reconeixement facial.

Amnistia Internacional demana que s'imposi una prohibició total de l'ús, desenvolupament, producció i venda de tecnologia de reconeixement facial amb finalitats de vigilància massiva per part de la policia i altres organismes públics, així com una prohibició de les exportacions dels sistemes de tecnologia.