“El poder legislatiu francès ha de rebutjar qualsevol pla d'utilitzar videovigilància alimentada per intel·ligència artificial (IA) en els Jocs Olímpics de París 2024. Aquestes tecnologies draconianes de vigilància massiva violen el dret a la intimitat i poden violar també els drets a la llibertat d'expressió i de reunió pacífica, la qual cosa podria desembocar en nivells distòpics de vigilància en el futur”, ha declarat avui Amnistia Internacional, quan el projecte de llei sobre els Jocs Olímpics i Paralímpics de 2024 serà sotmès a votació del ple de l'Assemblea Nacional francesa.

El projecte de llei va ser aprovat pel Senat francès al gener i, en cas de ser adoptat, legalitzarà l'ús d'un sistema ubic de videovigilància massiva alimentat per IA per primera vegada en la història de França i de la Unió Europea. Segons el poder legislatiu francès, aquesta colossal arquitectura de vigilància és “experimental” i s'utilitzarà per a garantir la seguretat durant els Jocs. Amnistia Internacional tem, no obstant això, que el projecte de llei ampliï les facultats de la policia en augmentar l'arsenal d'equips de vigilància del govern de manera permanent.

“Aprovisionar l'aparell de seguretat amb una vigilància massiva alimentada per IA és un projecte polític perillós que podria desembocar en violacions generalitzades dels drets humans. Totes i cadascuna de les accions que es realitzin en un espai públic seran absorbides en una xarxa d'arrossegament d'infraestructura de vigilància, la qual cosa menyscabarà llibertats civils fonamentals”, ha advertit Agnes Callamard, secretària general d'Amnistia Internacional.

“El poder legislatiu francès no ha demostrat que aquesta legislació compleix els principis de necessitat i proporcionalitat que són absolutament fonamentals per a garantir que les mesures de seguretat i vigilància no amenacen els drets a la llibertat de reunió i d'associació, a la intimitat i a la no discriminació. Tot i ser comprensible la necessitat de seguretat durant l'esdeveniment, el dret internacional dels drets humans continua aplicant-se en els Jocs Olímpics. En el seu format actual, aquestes aplicacions generals de vigilància massiva alimentada per IA són una violació absoluta del dret a la intimitat i d'altres drets.”

Si les mesures de vigilància massiva alimentades per IA s'implementen, seran rastrejades i vigilades milions de persones quan es dirigeixin als estadis o quan utilityzin el transport públic per accedir a les instal·lacions del gran esdeveniment esportiu. Els algorismes de la IA analitzen i capturen dades de totes les persones que es troben en el seu radi d'acció. La presència ubiqua de càmeres de circuit tancat i drons en els Jocs que permetran a les autoritats detectar activitats “sospitoses” o “anormals” en la multitud és, com a tal, especialment problemàtica.

“Aquestes definicions, excessivament àmplies, establertes per les autoritats per a classificar les activitats “sospitoses” o “anormals” en la multitud són molt preocupants. Hem de fer-nos algunes preguntes urgents: Qui fixa la norma d'allò que és ‘normal’? Les autoritats que controlen quines són les activitats ‘anormals o sospitoses’ en les societats tenen també el poder d'exacerbar un efecte dissuasiu sobre la dissidència i la protesta, i d'agreujar la discriminació que pateixen comunitats ja discriminades”, ha prosseguit Agnes Callamard.

Les amenaces per als drets humans que planteja el desenvolupament i ús de la IA per empreses privades i autoritats públiques a la Unió Europea (UE) estan ben documentades.

“Aquestes tecnologies amplifiquen l'actuació policial racista i amenacen el dret de protesta.” Les minories ètniques —incloses les persones migrants, i les persones negres i mestisses— són els qui més risc corren de ser objecte de determinades eines de vigilància, sobretot dels sistemes de reconeixement facial”, va dir Agnes Callamard.

Aquest projecte de llei no és només una amenaça per a la privacitat i els drets humans, sinó que també traeix l'esperit de la Llei d'Intel·ligència Artificial de la UE, una llei significativa en l'àmbit global que té com a finalitat regular la IA i protegir els drets fonamentals en la Unió, de la qual França és membre influent.

“El pla de França d'utilitzar mesures de vigilància invasiva durant els Jocs Olímpics hauria de servir de crit d'atenció per a la UE. El primer ús a la UE d'aquest mecanisme de seguretat podria pervertir en darrera instància la legislació sobre IA de la Unió de manera que podria causar una crisi de drets humans mitjançant la violació en gran escala dels drets de milions de persones que són vigilades, sense el seu coneixement ni el seu consentiment, i potencialment objecte de tecnologies experimentals de vigilància massiva. A través de les seves negociacions entorn de la Llei de IA, la UE ha de posar fi a l'ús de tecnologies d'intel·ligència artificial per a la vigilància massiva i per a monitorejar de manera discriminatòria a la ciutadania. També demanem la prohibició dels sistemes de reconeixement facial empleats per a la vigilància massiva”, va concloure Agnes Callamard.

Si França legalitza la vigilància massiva en l'àmbit nacional, una de les principals cites esportives del planeta podria convertir-se en una de les violacions més grans del dret a la intimitat.

Informació general:

El text del projecte de llei va ser aprovat pel Senat el 31 de gener i va superar un obstacle legislatiu el 8 de març després del vot de la comissió.

En una carta oberta iniciada pel Centre Europeu per a la Llei Sense Fins de Lucre, 38 organitzacions de la societat civil, Amnistia Internacional entre elles, han demanat als qui elaboren les polítiques a França que rebutgin el projecte de llei que permet la vigilància invasiva.

Amnistia Internacional, juntament amb una coalició d'organitzacions de la societat civil encapçalada per la Red Europea de Drets Digitals (EDRi), demana una regulació de les tecnologies i pràctiques de IA a la UE d'acord amb els drets humans.

Amnistia Internacional ha documentat amb anterioritat l'ús de milers de càmeres de circuit tancat amb capacitat per al reconeixement facial a la ciutat de Nova York, moltes de les quals es van utilitzar en comunitats racialitzades i van augmentar l'actuació policial racialment discriminatòria.

Després dels Jocs Olímpics de Londres el 2012, nombroses mesures de vigilància utilitzades per motius de seguretat durant l'esdeveniment es van fer permanents.