Par Rasha Abdul-Rahim, chargée de campagne, Contrôle des armes, commerce des équipements de sécurité et droits humains
Imaginez. La guerre éclate dans un pays lointain, c’est le règne du chaos et de la destruction et un nombre incalculable de civils sont blessés et tués par des robots du style Terminator, chargés d’éradiquer les combattants ennemis.
Ailleurs, des manifestants pacifiques descendent dans la rue pour exiger le respect de leurs droits. Ils sont repoussés avec violence par des policiers bâtis sur le modèle de Robocop et des véhicules robotisés et armés qui, capables de suivre tous les mouvements des manifestants, leur tirent dessus à coups de balles et de gaz lacrymogènes.
Ces scénarios sont dignes d’une superproduction hollywoodienne, mais les robots capables de viser, d’attaquer, de blesser et de tuer ne resteront plus très longtemps du domaine de la science-fiction.
Les robots tueurs, ou systèmes d’armes létaux autonomes, comme les désignent les gouvernements, ont été pour la première fois au cœur d’intenses débats, auxquels ont participé une majorité d’États, à l’occasion d’une réunion internationale d’experts du désarmement. Organisée au siège des Nations unies de Genève dans le cadre de la Convention sur certaines armes classiques, cette rencontre a duré quatre jours et s’est terminée le 16 mai.
Les robots tueurs sont des armes entièrement autonomes qui peuvent sélectionner une cible humaine et ouvrir le feu d’elles-mêmes, sans intervention de l’homme. Ces systèmes sont généralement qualifiés de « létaux » car ils sont considérés comme des armes à usage militaire, conçues pour tuer dans le cadre d’un conflit armé. Des sociétés américaines, britanniques, allemandes, israéliennes, émiriennes, jordaniennes et sud-africaines développent également des armes robotisées « à létalité réduite », destinées au maintien de l’ordre, contrôlées à distance ou programmées pour faire feu automatiquement quand on les touche. Ces armes peuvent apparemment projeter du gaz lacrymogène, des balles en caoutchouc et des aiguillons à impulsions électriques. Pour l’instant, il n’existe pas encore d’arme entièrement autonome. Mais au vu de la rapidité des progrès techniques, cela pourrait ne plus tarder.
La société britannique BAE Systems, par exemple, a développé un prototype de drone aérien de combat, le Taranis, qui se situe à la frontière entre les drones et les robots. Le Taranis est conçu pour les missions intercontinentales : il est censé voler à des vitesses supersoniques, échapper à la détection des radars et se passer presque entièrement de tout contrôle humain. Selon certaines informations, il serait équipé de deux compartiments d’armes prévus pour accueillir des bombes ou des missiles.
Il y a aussi Atlas, un robot humanoïde développé principalement par Boston Dynamics, une société américaine spécialiste de la robotique, dont le projet est financé et supervisé par l’agence américaine de projets de recherche avancée pour la défense (DARPA). Selon le site de Boston Dynamics, « Atlas se déplace à la façon des bipèdes, ses membres supérieurs sont donc libres pour soulever ou transporter des objets et agir sur son environnement. En terrain extrêmement difficile, Atlas est suffisamment fort et coordonné pour grimper en s’aidant de ses mains et de ses pieds et pour trouver son chemin à travers des zones congestionnées. Des mains articulées et équipées de capteurs sensoriels permettront à Atlas d’utiliser des outils prévus pour des humains ». Atlas n’est pas armé, mais il n’est pas bien difficile d’imaginer qu’il puisse l’être un jour.
La mise au point de minuscules « nano » robots, qu’ils soient destinés à être utilisés seuls ou en essaim, complique encore le paysage technologique déjà complexe car ces appareils seront probablement armés au fil du temps grâce à une législation quelque peu lacunaire.
En ce qui concerne les droits humains, les armes robotisées autonomes létales et à létalité réduite sont extrêmement préoccupantes pour plusieurs raisons.
En premier lieu, Amnesty International estime que le recours à des armes en l’absence d’un contrôle humain significatif et efficace augmenterait la probabilité de blessures et d’homicides illégaux, à la fois sur le champ de bataille et durant les opérations de maintien de l’ordre.
Ensuite, bien que certains gouvernements et spécialistes affirment que les robots tueurs autonomes pourraient être programmés pour respecter le droit international, beaucoup d’autres jugent que c’est impossible. D’après Amnesty International, dans le cadre d’opérations de maintien de l’ordre, des systèmes d’armes létaux autonomes privés d’un contrôle humain significatif ne seraient pas en mesure d’évaluer correctement des situations complexes et de se conformer aux normes en vigueur. Les normes en matière de maintien de l’ordre interdisent le recours aux armes à feu sauf en cas de risque imminent de mort ou de blessure grave, et il est très difficile d’imaginer une machine se substituer au jugement humain, qui est d’une importance cruciale lorsqu’il s’agit de déterminer s’il faut recourir à la force létale.
De la même manière, l’organisation est persuadée que les systèmes d’armes robotisés seraient incapables, en situation de conflit armé, de respecter les lois de la guerre, notamment l’obligation de faire la distinction entre combattants et civils, de prendre les précautions nécessaires pour minimiser le préjudice subi par les civils et d’évaluer la proportionnalité de l’assaut.
Enfin, confier à des robots un pouvoir de décision dans des situations de vie ou de mort revient à franchir une ligne morale fondamentale. Et, surtout, cela va à l’encontre du droit à la vie et à la dignité. Car l’on peut dire que l’homicide d’un être humain par une machine est la pire des ignominies, et les humains ne devraient jamais être considérés comme de simples objets.
C’est pour ces raisons, et d’autres encore, qu’Amnesty International est convaincue qu’il est nécessaire de faire évoluer le droit international pour faire face à cette technologie émergente en matière d’armement. Pour l’organisation, la seule véritable solution est une interdiction totale du développement, du déploiement et de l’utilisation de systèmes d’armes létaux autonomes. Adopter une approche « attentiste » pourrait amener les États à investir davantage dans le développement de ces systèmes d’armes et aboutir à leur prolifération rapide dans une nouvelle course à l’armement.
Les gouvernements se rencontreront de nouveau en novembre pour discuter de l’avenir des robots tueurs, lors de leur réunion annuelle dans le cadre de la Convention sur certaines armes classiques. Amnesty International espère qu’un processus formel de négociations s’ouvrira alors afin d’établir une nouvelle interdiction mondiale. Amnesty International et les autres ONG et spécialistes qui participent à la campagne contre les robots tueurs Stop Killer Robots vont s’attacher à travailler avec les gouvernements pour que notre civilisation ne se transforme pas en une dystopie de science-fiction dans laquelle des robots tueurs fous furieux arpentent les rues.