Les gouvernements doivent interdire le développement de robots tueurs, dont l’introduction insidieuse dans les opérations de maintien de l’ordre mettrait des vies en danger et constituerait une grave menace pour les droits humains, a déclaré Amnesty International jeudi 16 avril lors de la publication d’une nouvelle synthèse à Genève.
S’exprimant lors d’une réunion de la Convention des Nations unies sur l’interdiction ou la limitation de l’emploi de certaines armes classiques, l’organisation demande une interdiction préventive du développement, du stockage, du transfert, du déploiement et de l’utilisation de systèmes d’armes totalement autonomes (robots tueurs).
L’utilisation des précurseurs de ces armes totalement autonomes – dont les drones et d’autres systèmes d’armement non habités qui sont actuellement contrôlés par des humains – sert déjà à commettre des violations et présente de sérieuses difficultés lorsqu’il s’agit d’établir les responsabilités.
La rapidité des avancées techniques dans ce domaine pourrait signifier que la prochaine génération d’armes robotiques serait capable de sélectionner et d’attaquer des cibles, en tuant ou blessant peut-être des personnes, sans véritable contrôle humain – une perspective glaçante qui suscite de nouvelles préoccupations.
« La deuxième série de débats à Genève cette semaine montre clairement que les gouvernements prennent conscience des nombreux motifs d’inquiétude en relation avec les robots tueurs, dont le développement et le déploiement dans un futur proche semblent inévitables si nous n’agissons pas immédiatement », a déclaré Rasha Abdul Rahim, chargée d’action sur le Contrôle des armes, le commerce des équipements de sécurité et les droits humains à Amnesty International, qui assiste actuellement aux discussions à Genève.
« Les questions juridiques, éthiques et morales soulevées par l’utilisation de ces systèmes en temps de guerre commencent comme il se doit à bénéficier de l’attention qu’elles méritent. Ce qui est largement passé sous silence cependant est la probabilité qu’ils soient également employés dans le cadre d’opérations de police, et il est crucial que le problème soit abordé maintenant. »
Déléguer à des machines le maintien de l’ordre public n’est pas seulement un scénario hypothétique exploré dans d’innombrables films de science-fiction. C’est une idée qui fait froid dans le dos, mais qui pourrait en réalité se concrétiser si les projets de développement actuels ne sont pas maîtrisés. Le moment est venu pour les États d’interdire les robots tueurs à la fois sur les champs de bataille et dans les opérations de maintien de l’ordre, avant que nous n’atteignions le point de non-retour.
Rasha Abdul Rahim, chargée d’action sur le Contrôle des armes, le commerce des équipements de sécurité et les droits humains à Amnesty International
Préoccupations relatives aux droits humains
La nouvelle synthèse d’Amnesty International, intitulée Autonomous Weapons Systems : Five key human rights issues for consideration, porte sur les implications de l’utilisation de robots tueurs dans le domaine de l’application des lois.
Elle avance qu’une utilisation par la police d’armes robotisées serait fondamentalement incompatible avec le droit international relatif aux droits humains, car susceptible de déboucher sur des homicides illégaux et un recours excessif à la force causant des blessures, et de porter atteinte au droit à la dignité humaine.
Contrairement à des membres des forces de l’ordre ayant reçu une formation approfondie, des robots ne peuvent d’eux-mêmes désamorcer pacifiquement certaines confrontations, faire la différence entre des ordres légaux et illégaux, prendre des décisions sur l’ampleur de la réaction à adopter afin de limiter au maximum les torts causés, ou rendre des comptes pour les erreurs ou dysfonctionnements se soldant par une mort ou de graves blessures.
Robots tueurs à l’horizon
Des armes entièrement autonomes sans aucun contrôle humain n’ont pas encore été déployées, mais au vu de la rapidité des progrès techniques, cela est en passe de devenir réalité.
Peu de choses séparent en effet certains produits déjà sur le marché de véritables robots tueurs. En Espagne, aux États-Unis, en Israël, en Jordanie, au Royaume-Uni et ailleurs, des sociétés développent déjà des armes robotisées « à létalité réduite », destinées au maintien de l’ordre, contrôlées à distance ou programmées pour faire feu automatiquement quand on les touche.
Celles-ci incluent des aéronefs non habités (drones) et des véhicules au sol pouvant semble-t-il lancer des aiguillons à impulsion électrique, du gaz lacrymogène et d’autres projectiles à létalité réduite, posant un risque de mort ou de blessures graves.
Le ShadowHawk drone développé par Vanguard Defense Industries, aux États-Unis, est un exemple. Conçu pour mener des opérations similaires à celles qu’effectuent les hélicoptères de surveillance, il peut également être équipé d’armes.
Un article de presse a salué ces capacités lorsque les services d’un shérif texan ont fait l’acquisition d’un ShadowHawk en 2011 : « Si son utilisation initiale sera limitée à un rôle de surveillance, l’aéronef non habité ShadowHawk, précédemment employé contre des suspects de terrorisme en Afghanistan et en Afrique de l’Est, est en mesure d’incapaciter des suspects se trouvant en contrebas au moyen d’impulsions électriques, et d’être équipé de fusils de calibre 12 et de lance-grenades ».
Amnesty International estime que dans le cadre d’opérations de maintien de l’ordre, les systèmes d’armes létaux autonomes ne seraient pas en mesure d’évaluer correctement des situations complexes et de se conformer aux normes en vigueur.
« Aux termes des normes internationales, les policiers ne doivent recourir à la force que lorsque cela est strictement nécessaire, et dans la mesure exigée par l’accomplissement de leurs fonctions. Elles interdisent l’usage d’armes à feu, sauf en cas de risque imminent de mort ou de blessure grave. Il est très difficile d’imaginer une machine se substituer au jugement humain, qui est d’une importance cruciale lorsqu’il s’agit de déterminer s’il convient de recourir à une force potentiellement meurtrière », a déclaré Rasha Abdul Rahim.
Recommandations
Amnesty International et ses partenaires au sein de la Campagne pour arrêter les robots tueurs demandent une interdiction préventive du développement, du transfert, du déploiement et de l’utilisation de systèmes d’armes autonomes que ce soit dans les situations de conflit armé ou dans le cadre de l’application des lois.
Faute d’une interdiction de ce type, Amnesty International invite tous les États à soutenir publiquement l’appel du Rapporteur spécial des Nations unies sur les exécutions extrajudiciaires, sommaires ou arbitraires, qui préconise l’établissement d’un moratoire sur le développement, le transfert, le déploiement et l’utilisation de ces systèmes.
En attendant, il est impératif de réfléchir soigneusement aux effets sur les droits humains de systèmes d’armes autonomes. Ceux-ci doivent être véritablement et activement examinés dès que possible par des mécanismes et organes pertinents des Nations unies ou autres, notamment au sein de la Convention sur l’interdiction ou la limitation de l’emploi de certaines armes classiques et du Conseil des droits de l’homme.