Les autoritats estatunidenques utilitzen eines de vigilància impulsades per intel·ligència artificial (IA) automatitzada per a atacar directament a persones que no tenen ciutadania estatunidenca, aquestes eines constitueixen un risc per als qui defensen els drets del poble palestí. Així ho ha manifestat avui Amnistia Internacional, en plena repressió il·legal al país contra persones migrants, refugiades i sol·licitants d'asil.

Amnistia Internacional ha examinat documentació dels arxius públics del Departament de Seguretat Nacional, i documents prèviament revelats sobre adquisicions i avaluacions de la privacitat, que demostren que les eines IA Babel X, proporcionada per Babel Street, i Immigration OS De Palantir, compten amb capacitats automatitzades que permeten el monitoratge, la vigilància i l'avaluació constants de persones, sovint de persones que no tenen la ciutadania estatunidenca. La investigació ha tret també a la llum la manera en què el govern nord-americà utilitza aquestes eines per a rastrejar a persones migrants, refugiades i sol·licitants d'asil, i com en última instància aquestes eines comporten un elevat risc de ser utilitzades com a part de la iniciativa “Atrapar i revocar” (“Catch and Revoke”).

"Resulta extremadament preocupant que el govern estatunidenc estigui desplegant tecnologies invasives impulsades per IA en el context d'una agenda de deportació massiva i de repressió de les expressions propalestines, la qual cosa condueix a una multitud de violacions de drets humans. Aquestes tecnologies permeten a les autoritats rastrejar ràpidament i prendre com a blanc a estudiants internacionals i altres grups de persones migrants marginades en una escala i amb una amplitud sense precedents. Aquesta situació ha donat lloc a un patró de detencions il·legals i deportacions en massa, ha creat un clima de temor i ha agreujat l'‘efecte dissuasiu’ per a les comunitats migrants i els estudiants internacionals en escoles i universitats”, ha manifestat Erika Guevara Rosas, directora general d'Investigació, Treball d'Incidència, Política i Campanyes d'Amnistia Internacional.

La repressiva iniciativa d'“Atrapar i revocar” del Departament d'Estat, impulsada per IA, combina el monitoratge de xarxes socials, el rastreig de la situació de visats i l'amenaça d'avaluacions automatitzades de persones estrangeres que es troben al país amb visat, entre elles estudiants internacionals. Les eines d'IA proporcionades per Babel Street i Palantir exerceixen un paper crucial en la capacitat de les autoritats estatunidenques d'identificar a persones, les seves conductes i els seus moviments, amb més rapidesa i a una escala major per a determinar si els seus visats han de ser revocats.

Babel X duu a terme una anàlisi de sentiments assignant un sentiment i una intenció probable a les publicacions de persones basant-se en el comportament en línia d'aquestes, mentre que tant Babel X com Immigration OS Poden realitzar un reconeixement de patrons i una anàlisi automàtica de dades utilitzant algoritmes.

Babel X, s'utilitza, per exemple, per a analitzar mitjançant la IA plataformes de xarxes socials amb la finalitat de detectar contingut relacionat amb el “terrorisme”. Aquesta informació pot ser utilitzada per les autoritats estatunidenques per a prendre decisions sobre la revocació de visats individuals. Si el Departament d'Estat determina la revocació d'un visat, s'envien agents de les oficines locals sobre el terreny del Servei d'Immigració i Control de Duanes (ICE) perquè detinguin i deportin a aquesta persona. Les tecnologies probabilístiques que s'utilitzen per a extreure conclusions sobre la intenció de determinades persones tenen uns enormes marges d'error, sovint poden ser discriminatòries i esbiaixades i poden donar lloc a qualificar falsament contingut propalestí com a antisemita.

Les amenaces d'aquests sistemes per als drets humans es coneixen bé des de fa temps. Durant el primer mandat de Trump, 55 grups de drets humans (entre ells Amnistia Internacional) i 54 persones expertes en tecnologia van escriure a les autoritats per a oposar-se a la introducció d'un sistema automatitzat similar d'“escrutini extrem”, al·legant que seria ineficaç i conduiria invariablement a violacions del dret a no patir discriminació, el dret a la llibertat d'expressió i altres drets humans de les persones migrants als Estats Units.

“La coercitiva iniciativa d'‘Atrapar i revocar’, facilitada per tecnologies de IA, exacerba les revocacions arbitràries i il·legals de visat, les deportacions i les violacions d'una multitud de drets humans. Entre ells es troben el dret a la privacitat, a la llibertat d'expressió i a l'accés a la informació, a la llibertat de circulació, a la igualtat i a la no discriminació, i el dret a la llibertat i la protesta”, ha manifestat Erika Guevara Rosas.

Amnistia Internacional ha analitzat documents d'adquisicions, contractes i respostes basades en la Llei sobre Llibertat d'Accés a la Informació proporcionades a peticions prèvies d'altres organitzacions, tot això relacionat amb projectes de IA coneguts públicament que actualment utilitzen el Departament de Seguretat Nacional, l'Oficina de Duanes i Protecció Fronterera (CBP) i el Servei d'Immigració i Control de Duanes. Segons el lloc web de l'Oficina de Duanes i Protecció Fronterera, tant ella com l'ICE mantenen en aquests moments almenys 80 projectes de IA.

Babel X per Babel Street
 

Segons els documents examinats, l'Oficina de Duanes i Protecció Fronterera utilitza Babel X des d'almenys 2019. La tecnologia pot recopilar enormes quantitats de dades d'un únic identificador, com el nom d'una persona, la seva adreça de correu electrònic o el seu número de telèfon. També pot accedir a publicacions de xarxes socials, adreces IP, historials laborals, i identitats úniques generades per a publicitat en aplicacions mòbils que poden utilitzar-se per a rastrejar la ubicació d'un dispositiu. Babel X permet un enorme monitoratge de diversos grups, de persones tant ciutadanes com no ciutadanes estatunidenques, i residents permanents, però se li ha encarregat específicament el monitoratge de les persones refugiades i sol·licitants d'asil, tal com va revelar l'anàlisi sobre el llindar de la privacitat de la pròpia Oficina de Duanes i Protecció Fronterera per a Babel X.

Babel X apareix actualment citada en la pàgina de projectes actius de IA com “una eina adquirida comercialment que ajuda a la CBP a recopilar informació de xarxes socials i de fonts obertes sobre viatgers que poden ser objecte d'un examen més a fons per possible infracció de lleis que la CBP està autoritzada a fer complir o administrar”.

Al febrer de 2025, el vicepresident de riscos de Babel Street va publicar un article en el qual promovia l'ús d'informació de fonts obertes habilitat per IA per a contrarestar i trobar “contingut relacionat amb el terrorisme” per a intercepció i seguretat de fronteres, i per a trobar a persones i “grups radicalitzats” utilitzant cerques de paraules clau en grans bases de dades de documents, articles informatius i mitjans de comunicació en línia. Babel Street utilitza la “cerca persistent” per a monitorar de manera contínua qualsevol informació nova que aparegui en la web respecte a una persona, o en altres bases de dades governamentals, fins i tot després que s'hagi realitzat una petició inicial de cerca. Mitjançant l'automatització tant de l'assenyalament com de l'extracció de quantitats massives de dades, de manera persistent, de les persones assenyalades, Babel X amenaça amb convertir a persones en sospitoses per defecte, i sotmetre-les al risc de revocació del seu visat, detenció i deportació.

Immigration OS De Palantir

A l'abril de 2025, el Servei d'Immigració i Control de Duanes va atorgar a Palantir un contracte de 30 milions de dòlars per a rastrejar les “autodeportacions” i identificar casos de deportació prioritaris, especialment casos de persones que havien excedit la caducitat del seu visat. Aquest mateix mes, 404 Media va informar de la filtració d'un missatge de Slack (intern) enviat pel director tecnològic de Palantir que deia: “durant les últimes setmanes hem establert el prototip d'un nou conjunt d'integracions de dades i fluxos de treball amb l'ICE”; afegia: “L'enfocament de la nova administració sobre l'aprofitament de dades per a impulsar operacions de compliment de la llei ha accelerat aquests esforços”.

El sistema, que rep el nom de Sistema Operatiu del Cicle Vital d'Immigració (Immigration Lifecycle Operating System, o Immigration OS), funciona com una actualització del sistema de Gestió Integrada de Casos (Integrated Case Management, o ICM) de Palantir, ja utilitzat per l'ICE des de 2014.

El ICM permet al personal de l'ICE “crear un expedient electrònic que organitza i enllaça tots els registres i documents associats a una investigació particular [relacionada amb la immigració], perquè sigui fàcilment accessible des d'un únic lloc. També permet al personal enllaçar registres amb investigacions múltiples per a extreure connexions entre casos i permetre l'accés a una enorme diversitat de dades personals des d'agències i cossos encarregats de fer complir la llei estatunidenques.

La nova versió de Immigration OS té les següents característiques:

• Simplificació del procés de selecció i aprehensió de persones basant-se en les prioritats de l'ICE, i centrant-se en organitzacions delictives transnacionals, delinqüents violents i persones que han excedit la caducitat del seu visat.
• Monitoratge en temps real de l'autodeportació i la integració amb sistemes de priorització per a servir de base a l'elaboració de polítiques i l'assignació de recursos.
• Gestió de la migració d'extrem a extrem, des de la identificació fins a l'expulsió, centrant-se en l'eficiència de la deportació.

Principalment, Immigration OS automatitza un procés ja de per si mateix molt deficient i mancat de rendició de comptes que té un historial de menyspreu als drets humans, que ho enterboleix i reforça encara més.

Durant el primer mandat de Trump, al 2020, Amnistia Internacional va escriure a Palantir en relació amb els seus processos de deguda diligència en matèria de drets humans. Com a resposta, Palantir va reconèixer que hi havia “[…] declinat deliberadament establir contractes amb [les operacions de compliment de la llei i expulsió de l'ICE] i amb la CBP sota el [llavors] actual govern perquè compartim la preocupació de la seva organització per les possibles violacions greus de drets humans contra persones migrants, refugiades i sol·licitants d'asil a la frontera entre els Estats Units i Mèxic i els riscos d'aplicació desproporcionada de les lleis d'immigració als Estats Units.”

Un Estat que tot ho veu i l'efecte dissuasiu en els i les estudiants internacionals que es manifesten

El 8 de març de 2025, el govern estatunidenc va detenir il·legalment a Mahmoud Khalil, ex-estudiant llicenciat per la Universitat de Columbia que va actuar com a portaveu dels manifestants del campus, i que té un permís de residència permanent als Estats Units. El president Trump va declarar que era “el primer de molts”. Poc després, a nou estudiants estrangers que havien participat en protestes o s'havien pronunciat en contra del genocidi d'Israel a Gaza els van revocar els visats o els permisos de residència. Mahmoud Khalil va ser alliberat el 20 de juny de la custòdia de l'ICE.

En un altre cas documentat, Rumeysa Ozturk, estudiant de doctorat turca de la Universitat de Tufts, va ser interceptada prop de casa seva per sis agents d'immigració vestits de civil i introduïda en un automòbil sense distintius. Els agents es van negar a identificar-se fins després de la detenció de l'estudiant. L'únic delicte aparent de Rumeysa Ozturk era haver escrit conjuntament un article d'opinió en el qual criticava la falta de resposta de la seva universitat a les demandes estudiantils sobre Gaza. Un portaveu del Departament de Seguretat Nacional va al·legar més tard, sense oferir cap prova, que Rumeysa Ozturk “participava en activitats en suport de Hamas”.

Encara que el govern estatunidenc té la facultat discrecional de denegar i revocar visats a sol·licitants, no pot fer-ho de maneres que violin els drets protegits per la Constitució estatunidenca i el dret internacional dels drets humans, inclosos el dret a la llibertat d'expressió i el dret al degut procés.

Les tàctiques repressives de l'actual govern i la revocació sumària de la condició migratòria de persones demostren un total menyspreu pels drets humans a la llibertat d'expressió i de reunió pacífica. Constitueixen una violació evident del dret a la igualtat i a la no discriminació, en la qual les persones titulars de visats i refugiades són blanc explícit dels sistemes impulsats per IA.

El 10 de juliol de 2025, Amnistia Internacional es va posar en contacte amb Palantir Technologies i Babel Street perquè comentessin els esbrinaments de l'organització. Babel Street no va respondre. Palantir Technologies va respondre el 24 de juliol de 2025 declarant que el seu producte no s'utilitzava per a impulsar la iniciativa governamental de “Atrapar i revocar”, una iniciativa del Departament d'Estat, i va aclarir que Palantir havia estat contractada pel Servei d'Immigració i Control de Duanes del Departament de Seguretat Nacional, que no es dirigia específicament contra manifestants estudiantils i que els seus productes no impulsen actuacions que violin els drets d'immigració. Palantir va confirmar que la recent ampliació de la seva Gestió Integrada de Casos (denominada “Immigration OS”) “[…] no inclou treball que contribueixi directament a la missió d' [operacions d'aplicació de la llei i expulsió]” i va confirmar que això incloïa les següents capacitats: “a) Priorització i selecció de les operacions d'aplicació de la llei, b) Rastreig de l'autodeportació i c) Operacions del cicle vital de la immigració”.

Encara que els contractes de Babel Street i Palantir estan establerts amb l'Oficina de Duanes i Protecció Fronterera i el Servei d'Immigració i Control de Duanes, respectivament, el departament d'Aplicació de les Operacions d'Expulsió (Enforcement Removal Operations, o ERO) de l'ICE gestiona tots els aspectes de l'aplicació dels processos d'immigració, incloses “la identificació, la detenció, la reclusió i l'expulsió d'estrangers”. L'ICE és el braç operatiu encarregat d'implementar les decisions preses per totes les agències estatunidenques, inclòs el Departament d'Estat, sobre la gestió de la migració. En altres paraules, l'ICE exerceix un paper fonamental a l'hora d'aplicar la política de “Atrapar i revocar” mitjançant el rastreig i les tàctiques de detenció agressius, fins i tot encara que la política en el seu conjunt la implementi el Departament d'Estat. Aquestes respostes no aborden de manera fonamental les preocupacions plantejades per aquesta investigació; que les tecnologies de Palantir i Babel Street podrien contribuir a violacions de drets humans de les persones migrants a conseqüència dels contractes de totes dues empreses amb agències federals d'aplicació de les lleis d'immigració.

“Sistemes com Babel X i Immigration OS Exerceixen un paper clau en la capacitat del govern estatunidenc de dur a terme les seves tàctiques repressives, perquè faciliten la presa ràpida de decisions automatitzades que han donat lloc a deportacions massives dutes a terme a una velocitat sense precedents, que no permet un degut procés adequat i constitueix un risc important per als drets humans de totes les persones immigrants, inclosos els i les estudiants que no tenen ciutadania estatunidenca”, ha manifestat Erika Guevara Rosas.

Tenint en compte la relació prèvia de Palantir i Babel Street amb el govern estatunidenc, i la intenció pública del govern de Trump de dur a terme deportacions massives, aquestes empreses podrien haver previst raonablement el risc de causar mal que s'està veient en tot el país i haver reconsiderat l'establiment d'aquests contractes, per a abordar aquests riscos d'acord amb les normes internacionals de drets humans.

Si Palantir i Babel Street haguessin exercit adequadament la diligència deguda en matèria de drets humans i haguessin complert les seves responsabilitats de drets humans en 2025, aquestes empreses podrien, i deurien, haver declinat igualment participar en aquestes iniciatives de deportació massiva. En proporcionar aquesta tecnologia sense salvaguardes adequades, empreses com Babel Street i Palantir amenacen amb contribuir a les violacions de drets humans que envolten aquestes iniciatives.

Amnistia Internacional reconeix la importància d'exercir influència quan sigui possible en qualsevol relació comercial en la qual estiguin implicats els drets humans. És de la màxima importància que les empreses no causin violacions de drets humans ni contribueixin o es vinculin directament a elles.

“L'ús d'aquesta tecnologia en aquest context amenaça amb alimentar la capacitat del govern de Trump de prendre decisions arbitràries de deportar per capritx i en quantitats massives a persones marginades que amb prou feines tenen accés, si és que el tenen, al degut procés. No hem d'oblidar que aquests sistemes estan ara en mans d'un govern que ja ha fet desaparèixer a persones rumb a una cruel presó a El Salvador basant-se en la presumpció que podrien cometre delictes en el futur”, ha manifestat Erika Guevara Rosas.

“A més, no es pot desestimar la precarietat dels visats, especialment per als grups marginats com alguns estudiants internacionals. Palantir i Babel Street haurien de dur a terme una investigació i publicar totes les conclusions dels processos de deguda diligència en matèria de drets humans. Tret que Palantir i Babel Street puguin demostrar que poden utilitzar la seva influència per a millorar les greus conseqüències que per als drets humans tenen les polítiques dels seus clients, aquestes empreses haurien de cessar immediatament la seva feina amb el govern estatunidenc en relació amb les actuacions d'immigració.”

Amnistia Internacional demana també al Congrés dels Estats Units que prengui mesures per a enfortir els seus mecanismes normatius i de supervisió per a garantir que aquestes empreses tecnològiques no contribueixen al fet que es cometin violacions de drets humans.

Informació complementària

El 27 de març, el secretari d'Estat estatunidenc, Marco Rubio, va anunciar que des del gener havia revocat els visats d'almenys 300 estudiants i visitants.

Informes més recents assenyalen que s'ha revocat el visat de, com a mínim 1.800, i fins a 4.000, estudiants. Molts dels estudiants afectats afirmen que mai han participat en protestes ni han rebut notificació de la revocació, encara que alguns pot haver tingut alguna interacció amb agents encarregats de fer complir la llei durant la seva estada, en alguns casos per motius tan nimis com multes de trànsit. Segons una demanda presentada a favor de dos estudiants a Califòrnia, els i les estudiants han estat objecte de les accions del govern per ser de procedència africana, àrab, asiàtica, d'Orient Mitjà o musulmana.

Amnistia Internacional ha documentat anteriorment l'ús per part de l'ICE del sistema de Gestió Integrada de Casos de Palantir per a executar polítiques nocives dirigides contra persones migrants i sol·licitants d'asil, i ha destacat l'elevat risc que Palantir hagi contribuït a abusos contra els drets humans mitjançant la forma en què la tecnologia de l'empresa ha facilitat històricament les operacions de l'ICE.