Davant de la votació pel Parlament Europeu sobre la forma en què haurien de regir-se els sistemes d'intel·ligència artificial (IA) en aplicació de la Llei d'Intel·ligència Artificial de la UE (Llei IA), Mher Hakobyan, assessor d'Amnistia Internacional per a Incidència, ha declarat:
“Avui el Parlament Europeu ha transmès el ferm missatge que els drets humans han de situar-se en primera línia d'aquesta històrica legislació en votar a favor de la prohibició de diverses pràctiques basades en la IA que són incompatibles amb aquests drets.
“La prohibició dels sistemes d'identificació biomètrica remots en directe és un important pas endavant. Encara que el text no il·legalitza la vigilància massiva restrospectiva, sí que en limita l'ús únicament a les forces de l'ordre i dins d'uns estrictes límits legals. El projecte de llei prohibeix també diversos usos perjudicials dels sistemes de IA que discriminen les comunitats marginades, com les tecnologies que afirmen “predir” delictes, els sistemes de puntuació social (social scoring) que impedeixen a determinades persones l'accés a serveis públics i privats essencials, i les tecnologies de reconeixement d'emocions utilitzades per agents encarregats d'aplicar la llei i de fronteres per a “identificar” persones sospitoses.
“Encara que el projecte de llei podria limitar les exportacions des de la Unió Europea de sistemes de IA considerats un risc inacceptable per als drets humans, permetria que els proveïdors eludissin la llei si les seves tecnologies d'alt risc permeses es desenvolupen únicament per a l'exportació, la qual cosa podria convertir a la UE en còmplice d'abusos contra els drets humans fora de les seves fronteres. La Llei de IA tampoc prohibeix els sistemes d'elaboració de perfils que assenyalen persones en moviment com a “risc” ni els sistemes de pronòstic emprats per a interceptar, restringir i impedir la migració malgrat les crides d'Amnistia Internacional i d'altres membres de la societat civil en favor de la seva prohibició.
“Resulta preocupant que el projecte legislatiu permeti que els proveïdors de sistemes de IA utilitzats per a l'aplicació de la llei, la gestió de la migració, la provisió de prestacions socials i altres àrees de gran interès eludeixin la Llei de IA en concedir-los la facultat de decidir si els seus sistemes representen un risc elevat per als drets humans. Això podria convertir la Llei en un mer “document orientatiu” per a IA d'alt risc en lloc de ser una normativa efectiva.
“Amnistia Internacional insta la UE que compleixi els seus compromisos contrets en virtut del dret internacional. La UE ha de garantir una transparència i rendició de comptes significatius en relació a l'ús i l'exportació de sistemes de IA, els tipus d'impacte que tenen aquests en els drets humans, i empoderar les persones afectades garantint la seva igualtat d'accés a les tecnologies i el dret a interposar recursos i obtenir reparació en cas de sofrir perjudicis”.
Informació complementària
La Comissió Europea va proposar una llei sobre l'ús de la intel·ligència artificial el 21 d'abril de 2021. El Consell de la UE, que representa als governs estatals de la Unió, va adoptar la seva posició al desembre de 2022. El Parlament Europeu es proposa tancar la seva posició al juny de l'any en curs, després de la qual cosa, les tres institucions hauran d'acordar un text comú per al Reglament.
Amnistia Internacional, com a part d'una coalició d'organitzacions de la societat civil encapçalada per la Xarxa Europea de Drets Digitals (EDRi), demana una regulació de les tecnologies i pràctiques de IA a la UE d'acord amb els drets humans.