Armament autònom és el concepte més neutre, amable si voleu. “Killer Robots”, els robots assassins, és un concepte que inquieta més, oi? Són la mateixa cosa. Fa temps que organitzacions de la societat civil observen amb preocupació una tendència que sembla imparable en el món de l’armament: l'expansió de les armes que poden buscar, seleccionar i atacar objectiu de forma autònoma, és a dir, sense control humà.
Aquestes armes poden operar en l'aire, en terra, en l'aigua o en l'espai. Segons alguns experts són el futur en armament, i països com els Estats Units, la Xina, Israel, Rússia, l'Índia, Turquia o el Regne Unit, entre altres, ja estan invertint fort en el seu desenvolupament. En l'actualitat, molts països disposen de drons de combat operatius (ho estem veient a diari en el camp de proves en que, malauradament, s’ha convertit la guerra d’Ucraïna). Estrictament aquests drons no són 100% robots assassins sinó armes semiautònomes, ja que malgrat tenir autonomia en molts dels seus processos i operacions, un ésser humà ha de donar l'ordre final d'atac. Lamentablement, els robots assassins són el pas següent, el perfeccionament macabre i la next generation d'aquestes armes tan perilloses.
El desenvolupament d'aquestes màquines de matar no és ciència-ficció. És real. Està passant. Empreses de tecnologia treballen en diferents països en el desenvolupament de robots cada vegada més autònoms, que podrien en un futur convertir-se en robots assassins molt perfeccionats que participin en conflictes armats, facin tasques policials, de control de fronteres o de manteniment de l'ordre públic o de control de manifestacions.
Un perill potencial
Tot i que Nacions Unides ja ha denunciat l'ús de robots assassins, tot el que envolta a la utilització d'aquestes armes s'amaga en la manca de transparència per part dels Governs. Els robots assassins són un perill potencial per a les persones i el seu ús pot atemptar contra els drets humans. La raó és que les màquines no poden prendre decisions ètiques complexes. Per molt desenvolupada que sigui la seva intel·ligència artificial (IA), les maquines manquen de la compassió i el sofisticat enteniment humà, i prenen decisions basant-se en uns algorismes que converteixen als éssers humans en meres dades i decideixen qui viu o qui mor. Difícilment una màquina podrà fer front a un dilema moral o a la presa de decisions extraordinàriament complexes com el fan els éssers humans.: així, les màquines autònomes prendran decisions de vida o mort sense empatia ni compassió.
A més, hi ha qüestió important que compromet la rendició de comptes. Des del moment que aquestes armes tenen la capacitat de triar els seus propis objectius i atacar-los sense control humà existeix el risc que ningú es faci responsable dels errors que puguin cometre. Sense ningú que respongui, on queden les víctimes? En la més absoluta indefensió.
Han saltat, doncs, totes les alarmes. A finals de febrer a Costa Rica, més de 30 països de l’Amèrica Llatina i el Carib van demanar legislació internacional que inclogui prohibicions i normes en relació al desenvolupament i l'ús de sistemes d'armes autònoms. Tot i sortir molt específicament d’una regió concreta del món, aquesta no és una xifra menor de països, i pot suposar un primer pas esperançat per frenar aquesta deriva tan perillosa.
Mantenir el control humà sobre l'ús de la força
És més urgent que mai traçar línies vermelles legals i jurídiques sobre la producció i l'ús de sistemes d'armes autònoms per a garantir que mantenim un control humà significatiu sobre l'ús de la força.
Des d’Amnistia Internacional donem suport a aquesta crida recent de governs de l’Amèrica Llatina i el Carib perquè s'estableixin controls jurídics internacionals vinculants sobre aquestes armes. Pensem que és una bona notícia la decisió de treballar en fòrums alternatius, més enllà de la Convenció sobre Determinades Armes Convencionals (sobre la qual s'han paralitzat les converses), per a promoure aquest nou control jurídic.
És una bona notícia el treball conjunt de governs regionals, observadors, representants de Nacions Unides, el Comitè Internacional de la Creu Roja i ONG i societat civil. Des d’Amnistia seguirem treballant també a Stop Killer Robots, una coalició global de més de 160 organitzacions que treballa per a abordar l'autonomia en els sistemes d'armes, i de la qual n’és membre fundador.
