Le Parlement européen doit saisir l’occasion d’un vote en session plénière consolidant sa position finale sur la législation de l’UE réglementant l’utilisation de l’intelligence artificielle (législation sur l’IA) pour interdire les systèmes de profilage raciste et discriminatoire qui ciblent les personnes migrantes et d’autres groupes marginalisés, a déclaré Amnesty International mardi 13 juin, à la veille du vote qui aura lieu le 14 juin.
Il existe un risque que le Parlement européen ne renverse des protections considérables pour les droits humains obtenues lors du vote du 11 mai, en ouvrant la porte à l’utilisation de technologies qui sont absolument incompatibles avec le droit international relatif aux droits humains
Mher Hakobyan, conseiller en matière de plaidoyer sur la réglementation de l’intelligence artificielle à Amnesty International
L’organisation appelle le Parlement européen à interdire l’utilisation des technologies de surveillance de masse, telles que les outils d’identification biométrique à distance en temps réel et a posteriori, dans ce texte législatif historique.
Les recherches d’Amnesty International ont montré que les technologies intrusives de reconnaissance faciale amplifient les pratiques discriminatoires dans le maintien de l’ordre à l’encontre des personnes racisées, notamment les contrôles d’identité qui visent de façon disproportionnée les personnes noires ou métisses. Elles sont par ailleurs employées pour empêcher et limiter les déplacements des personnes migrantes et demandeuses d’asile.
« Il existe un risque que le Parlement européen ne renverse des protections considérables pour les droits humains obtenues lors du vote du 11 mai, en ouvrant la porte à l’utilisation de technologies qui sont absolument incompatibles avec le droit international relatif aux droits humains », a déclaré Mher Hakobyan, conseiller en matière de plaidoyer sur la réglementation de l’intelligence artificielle à Amnesty International.
Les député·e·s doivent interdire les technologies racistes de profilage et d’évaluation des risques, qui perçoivent les personnes migrantes et demandeuses d’asile comme des “menaces”, ainsi que les outils prévisionnels visant à anticiper les mouvements frontaliers et à priver des personnes du droit d’asile
Mher Hakobyan, conseiller en matière de plaidoyer sur la réglementation de l’intelligence artificielle à Amnesty International
Soucieux de renforcer les remparts de la « forteresse Europe », les États membres de l’UE recourent de plus en plus à des technologies opaques et hostiles pour faciliter des violations contre les personnes migrantes, réfugiées et demandeuses d’asile à leurs frontières.
« Face à un environnement toujours aussi peu accueillant envers les personnes qui fuient des guerres et des conflits ou sont en quête d’une vie meilleure, il est essentiel que le Parlement européen ne passe pas à côté des préjudices causés par les systèmes d’IA racistes. Les député·e·s doivent interdire les technologies racistes de profilage et d’évaluation des risques, qui perçoivent les personnes migrantes et demandeuses d’asile comme des “menaces”, ainsi que les outils prévisionnels visant à anticiper les mouvements frontaliers et à priver des personnes du droit d’asile », a déclaré Mher Hakobyan.
Si la législation sur l’IA peut aider à prévenir et réduire les préjudices causés par les nouvelles technologies en Europe, il est toutefois crucial que l’UE ne contribue pas à des violations des droits humains en exportant des technologies draconiennes en dehors de ses frontières. Ce texte doit interdire l’exportation de tout système dont l’utilisation n’est pas autorisée dans l’UE, ce qui est le cas des outils de reconnaissance faciale et d’autres technologies de surveillance.
Amnesty International a par exemple observé que des caméras fabriquées par l’entreprise néerlandaise TKH Security ont été installées dans des lieux publics et fixées sur des infrastructures policières dans le territoire occupé de Jérusalem-Est pour renforcer le contrôle exercé par le gouvernement israélien sur les Palestinien·ne·s et le système israélien d’apartheid.
Une autre enquête similaire a révélé que des entreprises installées en France, aux Pays-Bas et en Suède ont vendu des systèmes de surveillance numérique, tels que des outils de reconnaissance faciale et des caméras réseau, à des acteurs stratégiques du dispositif chinois de surveillance de masse. Dans certains cas, les produits exportés depuis l’UE ont été utilisés contre les Ouïghours et d’autres groupes ethniques à majorité musulmane sur le territoire.
« Le Parlement européen est tenu de veiller au respect des droits humains. En renonçant à l’interdiction totale des technologies utilisées pour la surveillance de masse, les pratiques racistes de maintien de l’ordre et le profilage, il manquerait à cette obligation, a déclaré Mher Hakobyan.
« Les député·e·s européens doivent en outre s’assurer que les technologies interdites au sein de l’UE ne soient pas exportées pour commettre des violations des droits humains ailleurs dans le monde. Cette législation doit protéger et promouvoir les droits fondamentaux de toutes les personnes, et pas seulement de celles qui vivent en Europe. »
Complément d’information
La Commission européenne a présenté le 21 avril 2021 une proposition de texte régissant l’utilisation de l’intelligence artificielle. Le Conseil de l’UE, qui représente les gouvernements nationaux des pays membres, a adopté sa position en décembre 2022. Le Parlement européen compte tenir un vote final formalisant sa position le 14 juin, à la suite de quoi les trois institutions devront s’accorder sur la teneur d’un texte commun.
Amnesty International, aux côtés d’une coalition d’organisations de la société civile menée par le Réseau européen des droits numériques (EDRi), milite en faveur d’une réglementation de l’intelligence artificielle au sein d’UE afin de protéger et de promouvoir les droits humains.