“La votació en el Parlament Europeu de la Llei d'Intel·ligència Artificial al maig ofereix a la Unió Europea (UE) una oportunitat significativa per a regular les tecnologies d'intel·ligència artificial (IA) a fi de protegir i promoure els drets humans”, ha declarat Amnistia Internacional en una carta oberta als membres de les principals comissions del Parlament.
“La Llei de IA ofereix a la legislatura de la UE una oportunitat de posar fi a l'ús de sistemes de IA discriminatoris i que violen drets”, va afirmar Mher Hakobyan, assessor d'Amnistia Internacional per al treball d'incidència sobre la regulació de la intel·ligència artificial.
“La UE ha de prohibir l'ús de sistemes discriminatoris de IA que afecten desproporcionadament membres de comunitats marginades com les persones migrants, refugiades i sol·licitants d'asil. Aquestes tecnologies tracen perfils de persones i comunitats sota pretext que “prediuen” delictes, o “identifiquen” a persones que suposadament representen un risc per a la seguretat, fins i tot fent que se'ls negui el dret d'asil. El Parlament Europeu no ha de perdre aquesta oportunitat de prohibir l'ús d'unes certes pràctiques basades en la IA i protegir els drets de les persones migrants, refugiades i sol·licitants d'asil enfront dels aspectes perniciosos d'aquestes tecnologies.
“També ha de prohibir-se l'ús de tecnologies de vigilància massiva, com les eines d'identificació biomètrica remotes retrospectives i en directe. La proposta legislativa ha de prohibir així mateix els sistemes discriminatoris de puntuació social (social scoring) que impedeixen l'accés d'unes certes persones a serveis públics i privats essencials com les prestacions de suport a la infància i l'educació.
“La Llei de IA hauria d'abordar també el desenvolupament de tecnologies europees que s'exporten a tercers països. En primer lloc, no s'hauria de permetre l'exportació de sistemes de IA prohibits a Europa. En segon lloc, les tecnologies d'alt risc permeses que s'exportin han de complir els mateixos requisits reglamentaris que les tecnologies d'alt risc que es venen a la UE.
“A més, han d'implementar-se mesures contundents de rendició de comptes i transparència quan organismes públics i privats usin sistemes de IA a la UE. Aquests actors han de revelar el seu ús de sistemes de IA d'alt risc i publicar avaluacions exhaustives del seu impacte en els drets humans. Això és important perquè les persones perjudicades per sistemes de IA puguin demanar rescabalament. La Llei de IA hauria d'establir un mecanisme destinat a aquest efecte”.
Informació complementària
La Comissió Europea va proposar una llei sobre l'ús de la intel·ligència artificial el 21 d'abril de 2021. El Consell de la UE, que representa als governs nacionals de la Unió, va adoptar la seva posició el desembre de 2022. El Parlament Europeu es proposa finalitzar la seva posició en la primavera de l'any en curs, després del qual, les dues institucions, juntament amb la Comissió Europea, hauran d'acordar un text comú per al Reglament.
La nostra carta oberta més recent, redactada per la nostra secretària general, Agnès Callamard, insta els membres del Parlament Europeu a què prohibeixin l'ús d'uns certs sistemes de IA incompatibles amb els drets humans de les persones migrants, refugiades i sol·licitants d'asil. La carta es va publicar el 26 d'abril de 2023.
Amnistia Internacional, com a part d'una coalició d'organitzacions de la societat civil encapçalada per la Xarxa Europea de Drets Digitals (EDRi), ve demanant una regulació de la UE sobre la intel·ligència artificial que protegeixi i promogui els drets humans.
El 19 d'abril de 2023, Amnistia Internacional i els seus socis en la coalició van fer pública una declaració oberta en la qual demanen al Parlament Europeu, amb motiu de la pròxima votació, que protegeixi els drets humans en la Llei de IA.