A mesura que els ràpids progressos tecnològics apropen els "robots assassins" ("killer robots", en anglès) cada vegada més a la realitat, Amnistia Internacional demana als Estats que donin suport a una nova legislació internacional per prohibir els sistemes d'armes totalment autònoms.

El grup d'experts governamentals sobre sistemes d'armes autònoms letals de la Convenció sobre Certes Armes Convencionals es reunirà a Ginebra del 27 al 31 d'agost de 2018. La reunió arriba en un moment clau perquè els Estats debatin opcions amb les quals abordar els desafiaments ètics, humanitaris, de drets humans i de seguretat plantejats pels sistemes d'armes totalment autònoms.

"Els robots assassins ja no són cosa de ciència ficció. Des dels drons dirigits per intel·ligència artificial fins a les armes automàtiques que poden triar el seu propi objectiu, els avanços tecnològics en armament guanyen terreny ràpidament al dret internacional. Llisquem cap a un futur en el qual els éssers humans podrien veure's eliminats de la presa de decisions sobre l'ús de la força", ha manifestat Rasha Abdul Rahim, investigadora/assessora sobre Intel·ligència Artificial i Drets Humans d'Amnistia Internacional.

"Encara no és tard per canviar de rumb. La prohibició dels sistemes d'armes totalment autònoms podria impedir alguns escenaris realment distòpics, com una nova carrera d'armes d'alta tecnologia entre superpotències mundials que provocaria que les armes autònomes proliferessin àmpliament. Demanem als Estats presents a Ginebra aquesta setmana que actuïn amb la urgència que aquesta qüestió requereix, i que presentin un mandat ambiciós per abordar els nombrosos riscos plantejats per les armes autònomes".

La majoria dels Estats que van assistir a la darrera reunió sobre la Convenció sobre Certes Armes Convencionals a l'abril de 2018 van subratllar la importància de mantenir el control humà sobre els sistemes d'armament i l'ús de la força, i van manifestar el seu suport al desenvolupament de nova legislació internacional sobre sistemes d'armes autònoms letals. Vint-i-sis d'aquests Estats, entre els quals Àustria, Brasil i Egipte, van demanar una prohibició total. La Xina també ha demanat un nou protocol de la Convenció sobre Certes Armes Convencionals que prohibeixi l'ús de sistemes d'armes totalment autònoms.

No obstant això, diversos Estats clau s'oposen a crear prohibicions jurídicament vinculants, entre els quals governs dels quals se sap que ja estan desenvolupant sistemes d'armes autònoms, com Corea del Sud, els Estats Units, França, Israel, el Regne Unit i Rússia.

Amnistia Internacional demana que es creïn normes legalment vinculants per garantir que els drets humans segueixen ocupant un lloc central en les "funcions crítiques" dels sistemes d'armes, com la identificació, la selecció i la involucració d'objectius. Només així es podrà garantir el respecte pel dret internacional i abordar els motius de preocupació ètica respecte a la delegació en les màquines del poder de prendre decisions de vida o mort.

Aquestes qüestions s'han debatut en períodes de sessions previs sobre la Convenció sobre Certes Armes Convencionals en el context de l'ús d'aquests sistemes en situacions de guerra. Amnistia Internacional demana als Estats que garanteixin que també aborden els riscos d'utilitzar armes autònomes per fer complir la llei.

"Fins ara, la probabilitat que les armes autònomes s'utilitzin en operacions policials, amb tots els riscos que això comporta, no s'ha tingut molt en compte. Però ja existeixen drons capaços de disparar dards d'electroxoc, gas lacrimògen i projectils de gas pebre. Israel ha utilitzat recentment drons semiautònoms per llançar gas lacrimògen contra manifestants a Gaza, i és probable que tornem a veure emprar aquest tipus de tecnologia a organismes encarregats de fer complir llei en el futur", ha assenyalat Rasha Abdul Rahim.

"L'ús d'armes totalment autònomes per fer complir la llei, sense control humà efectiu i significatiu, seria incompatible amb el dret internacional dels drets humans i podria donar lloc a morts i lesions causades de manera il·legítima i altres violacions de drets humans. Demanem als Estats que prenguin mesures concretes per aturar la proliferació d'aquestes armes perilloses tant als carrers com en el camp de batalla abans que sigui massa tard".

Informació complementària

Amnistia Internacional i les organitzacions que participen en la Campanya contra els Robots Assassins demanen la prohibició total del desenvolupament, producció i ús de sistemes d'armes totalment autònoms, pels riscos que plantegen des del punt de vista humanitari i de drets humans. Amb l'ús d'armes totalment autònomes sense control humà efectiu i significatiu podria semblar que es crea una bretxa en matèria de rendició de comptes si, una vegada desplegades, no poden prendre determinacions sobre l'ús de força letal per si soles.

Encara que no se sap com de sofisticades seran les futures tecnologies, és molt poc probable que els sistemes d'armes totalment autònoms reprodueixin tota la gamma de característiques intrínsecament humanes que són necessàries per complir el dret internacional. Entre aquestes figura la capacitat d'analitzar la intenció de les accions humanes, d'avaluar i respondre a situacions sovint dinàmiques i imprevisibles o de prendre decisions difícils sobre la proporcionalitat o la necessitat d'un atac. En el videojoc B3H1ND Drones i Hackers, desenvolupat per Amnistia Internacional, queda palès el perill de delegar en màquines decisions de les quals han de ser responsables els éssers humans.

Els Estats es reuniran de nou al novembre per a la Reunió de les Altes Parts Contractants en la Convenció sobre Certes Armes Convencionals i tindran l'oportunitat d'acordar l'inici de negociacions sobre un instrument jurídicament vinculant.