Les empreses de xarxes socials han d'abordar amb urgència el creixement de l'odi i el racisme a Internet contra les comunitats palestines i jueves, ha afirmat Amnistia Internacional avui, mentre s'intensifica encara més el conflicte a Israel i els Territoris Palestins Ocupats.
L'organització ha observat en les plataformes de xarxes socials un augment alarmant de l'apologia de l'odi que constitueix incitació a la violència, l'hostilitat i la discriminació, que està prohibida en virtut del dret internacional dels drets humans, i d'altres continguts nocius contra palestins i jueus. Amnistia Internacional també ha documentat informes preocupants que indiquen que continguts publicats per palestinss i per qui defensa els drets de la població palestina estan sent objecte d'una moderació de continguts potencialment discriminatòria per les plataformes de xarxes socials.
“Les xarxes socials poden exercir un paper decisiu en situacions de crisis per a la comunicació, i per tant les grans empreses de xarxes socials han d'intensificar amb urgència les mesures per protegir els drets humans. Les empreses han de garantir que les seves plataformes no difonen missatges d'odi i violència, o corren el risc de contribuir a la comissió de flagrants violacions de drets humans i violacions greus del dret internacional humanitari. Això inclou crims de guerra, que han caracteritzat aquest conflicte i han causat xifres sense precedents de víctimes civils i una crisi humanitària catastròfica”, ha afirmat Rasha Abdul-Rahim, directora de Amnesty Tech.
“Les empreses han de garantir que les seves plataformes no difonen missatges d'odi i violència, o corren el risc de contribuir a la comissió de flagrants violacions de drets humans i violacions greus del dret internacional humanitari.”
Amnistia Internacional va concloure que un nombre considerable de publicacions en xarxes socials enalteixen els atacs d'Israel contra civils a Gaza, donen suport a la destrucció de Gaza i fan apologia de la violència contra els palestins. Moltes publicacions fan ús d'un llenguatge deshumanitzador i racista contra els palestins, i en alguns casos també recorren al llenguatge que empren les autoritats israelianes.
L'organització també ha documentat algunes publicacions antisemites, moltes de les quals propugnen l'odi i la violència contra les persones jueves. Recerques anteriors de l'organització Center for Countering Digital Hate han posat en relleu la proliferació de continguts antisemites a X (abans Twitter) en els últims mesos.
L'Indicador de la Violència de l'ONG palestina 7amleh ha detectat més de 493.000 casos (i la xifra continua en augment) d'apologia de l'odi contra els palestins i els qui defensen els drets de la població palestina en continguts en llengua hebrea a plataformes de xarxes socials, des del 7 d'octubre de 2023.
El govern i les autoritats militars israelianes també han emprat llenguatge deshumanitzador i racisme antipalestí. El 16 d'octubre, el compte de X del primer ministre d'Israel (@IsraeliPM) va publicar un contingut discriminatori que emprava un llenguatge deshumanitzador: “Hi ha una lluita entre els fills de la llum i els fills de la foscor, entre la humanitat i la llei de la jungla”.
Així mateix, el ministre de Seguretat Nacional, Itamar Ben Gvir, va afirmar el 17 d'octubre de 2023: “Mentre Hamàs no alliberi els ostatges que té a les seves mans, l'única cosa que ha d'entrar a Gaza són centenars de tones d'explosius de la Força Aèria, ni la més mínima ajuda humanitària.”
Apagada total i censura oculta (“shadowbanning”) de continguts palestins
Amnistia Internacional també ha rebut informes preocupants d'una censura excessivament àmplia dels continguts de comptes palestins i dels qui defensen els drets de la població palestina en diverses plataformes de xarxes socials.
La població palestina a la Franja de Gaza ocupada està atrapada en una apagada en augment de les comunicacions que limita la seva capacitat de buscar, rebre i difondre informació. La moderació desigual de continguts que duen a terme les plataformes de xarxes socials corre el risc de menyscabar encara més la capacitat de les persones palestines, dins i fora de Gaza, d'exercir el seu dret a la llibertat d'expressió, d'associació i de reunió pacífica.
“Mentre Israel intensifica els seus bombardejos sense precedents de Gaza, que han causat la mort de més de 7.000 persones, en la seva majoria civils, considerem motiu d'extrema preocupació els informes de bloqueig i “shadowbanning” de continguts dels qui defensen els drets de la població palestina”, ha afirmat Rasha Abdul-Rahim.
“La moderació de continguts ha de realitzar-se de tal manera que garanteixi el respecte del dret a la llibertat d'expressió, i abordi al mateix temps l'apologia de l'odi generalitzada. Les empreses de xarxes socials han d'invertir recursos adequats en la supervisió humana dels sistemes de moderació de continguts impulsats per intel·ligència artificial (IA) per a garantir que totes les persones que usen les xarxes, incloses les palestines, poden exercir en condicions d'igualtat els seus drets en Internet, qualssevol que siguin les seves opinions polítiques. Diverses plataformes han menyscabat la seva capacitat d'actuar d'aquesta manera mitjançant l'acomiadament del personal responsable del compliment dels drets humans.”
La investigació ha mostrat que els sistemes d'intel·ligència artificial reprodueixen biaixos socials existents amb el pretext de la neutralitat. En data tan recent com el 19 d'octubre de 2023, Meta va demanar disculpes per inserir la paraula “terrorista” en traduccions de perfils d'Instagram que contenien els termes “palestí” i “Alhamdullilah” (que significa Lloat sigui Déu) i l'emoji de la bandera palestina. L'empresa també va reduir el llindar de certesa exigida per a “ocultar” continguts hostils del 80% al 25%, per als continguts produïts en extenses zones del Pròxim Orient. Es va tractar d'un intent de detenir el flux de discurs hostil, però podria donar lloc a restriccions excessivament àmplies dels continguts.
Al maig de 2021, un informe de Business for Social Responsibility va revelar que els continguts en llengua àrab s'observava un grau major de “compliment excessiu” que en altres llengües, inclosa l'hebrea, en les plataformes de Meta. “Penalitzacions falses” van contribuir a la reducció de la visibilitat i la implicació de les publicacions en àrab.
Ja abans de la crisi actual, la investigació d'Amnistia Internacional va assenyalar que el sistema d'opressió i dominació de la població palestina per Israel equival al crim de lesa humanitat d'apartheid. La investigació d'Amnistia Internacional també ha mostrat que els algorismes de les xarxes socials estan dissenyats per a maximitzar la implicació, la qual cosa dona lloc a continguts sovint desproporcionadament amplificats i incendiaris, entre els quals l'apologia de l'odi que incita a la violència, l'hostilitat i la discriminació.
En aquest context, és indispensable que les grans empreses tecnològiques abordin els efectes reals i potencials per als drets humans de les seves operacions per a garantir que no causen abusos contra els drets humans ni contribueixen e la seva comissió, ni permeten la proliferació de l'odi, el racisme i la desinformació.
Informació complementària
El 7 d'octubre, Hamàs i altres grups armats palestins van violar de manera flagrant el dret internacional i van donar mostra d'un terrible menyspreu per la vida humana en dur a terme brutals i cruels crims entre els quals figuren execucions sumàries en massa, preses d'ostatges i el llançament indiscriminat d'atacs amb coets contra Israel. Les forces israelianes llancen des de llavors bombardejos aeris implacables sobre el conjunt de la Franja de Gaza amb efectes catastròfics. La greu situació humanitària derivada del bloqueig que Israel manté des de fa 16 anys també s'ha aguditzat encara més després de l'ordre del ministre de Defensa d'Israel d'imposar un setge total el 8 d'octubre, que impedeix l'accés de la població palestina de Gaza a aliments, aigua, combustible, electricitat i comunicacions i equival al crim de guerra de càstig col·lectiu.
Diverses autoritats de Cisjordània i Europa, entre altres llocs, també estan imposant creixents restriccions a les protestes en favor dels drets humans de la població palestina.
Amnistia Internacional continua vigilant els casos de bloqueig o retirada il·lícits de publicacions en xarxes socials, així com el “bloqueig ocult” de comptes en el context del conflicte actual. Si vostès o alguna persona a qui coneixen han estat objecte d'aquestes accions, preguem comparteixin amb hello@amnesty.tech els enllaços i/o les captures de pantalla dels continguts marcats o retirats, així com les captures de pantalla dels continguts originals.