Présentation générale

À l’ère du numérique, la lutte pour les droits humains est plus importante que jamais. Elle permet à tous et à toutes de s’exprimer en ligne, de partager des opinions, et de créer, utiliser et accéder à la technologie de manière sûre et juste.

La technologie peut être un moyen d’exercer sa liberté d’expression, de demander des comptes aux gouvernements et de dénoncer des actes répréhensibles.

Cependant, la technologie peut aussi représenter une menace systémique sur les droits humains, en reproduisant la discrimination structurelle des groupes marginalisés dans les domaines du maintien de l’ordre, de la gestion de l’immigration, des prestations sociales, et de l’accès aux soins de santé.

Les outils de surveillance exercent également une influence néfaste sur les groupes déjà marginalisés, et ce de diverses façons et dans le monde entier. 

Notre mission est donc de réagir face aux menaces émergentes qui planent sur les droits humains à l’ère du numérique, et d’aider à formuler et protéger nos droits pour l’avenir.

Nous œuvrons pour amener les géants technologiques à rendre des comptes, tout en luttant contre un État numérique et automatisé, et en dénonçant la surveillance et la censure croissantes exercées par les gouvernements à l’aide de ces technologies.

L’idée d’un État numérique et automatisé fait référence l’utilisation croissante de la technologie par les gouvernements pour prendre des décisions cruciales au sujet des prestations sociales et des systèmes de gestion de l’asile et des migrations.

Nous imaginons un futur où la technologie facilite la protection des droits humains et rend la société plus juste.

À l’ère du numérique, les droits humains permettent de s’exprimer dans des environnements numériques de manière juste, sûre, responsable et inclusive, en garantissant la liberté d’expression, la vie privée, l’égalité, la non-discrimination et la protection des données.

Nous menons de plus en plus notre vie en ligne, et nos droits y doivent être protégés.

Comment la technologie influence-t-elle la société ?

Alors que les avancées technologiques se poursuivent à un rythme exponentiel et que les entreprises de ce secteur montent en puissance et acquièrent progressivement une portée mondiale, il est plus important que jamais de mener une réflexion critique en vue de déterminer à qui ces progrès profitent le plus et à qui ils nuisent.  

• Les gouvernements utilisent des algorithmes pour automatiser la prestation de services publics, sans mettre en place de mesures de responsabilisation pour s’assurer que le résultat est juste.
• Malgré la promesse de neutralité technique, l’intelligence artificielle accentue les inégalités et la discrimination dans les sociétés du monde entier.
• Des technologies biaisées sont déployées, prétendument pour « résoudre » des problèmes complexes dans les domaines de l’immigration, des prestations sociales, de l’accès à l’éducation et de la santé.
• Les géants technologiques facilitent la diffusion d’informations fausses et trompeuses, ce qui entraîne des conséquences désastreuses sur les sociétés du monde entier.
• Durant la pandémie de COVID-19, nous avons assisté à une prolifération de théories du complot sur les réseaux sociaux qui, encouragée par les géants technologiques, a mis en danger la vie de millions de personnes.
• Les algorithmes des réseaux sociaux acceptent la diffusion de discours haineux, l’incitation à la violence, le harcèlement en ligne et la censure de certains groupes menacés.
• Les logiciels espions et autres formes de surveillance ciblée affectent le droit de chacun et chacune à la vie privée, et peuvent également dissuader de nombreuses personnes de se joindre à des mouvements sociaux ou de s’exprimer à propos de leurs droits.

Responsabilisation des géants technologiques 

Les géants de la haute technologie exercent un immense pouvoir sur nos vies. Notre dépendance de plus en plus forte à l’égard de ces géants a permis à une poignée d’entreprises de bafouer notre droit au respect de la vie privée et de suivre tous nos faits et gestes, modifiant ainsi nos interactions et créant des prédictions sur nos comportements pour leur profit.

Leur modèle d’activité fondé sur la surveillance représente une menace systémique pour les droits humains, notamment les droits des enfants. Nous n’avons pratiquement aucune maîtrise des informations que les entreprises et les États collectent à notre sujet et de l’utilisation qu’ils en font, ni aucun pouvoir sur leur décision de les partager avec d’autres acteurs.

Face au fléau grandissant de la mésinformation et de la prolifération en ligne de la haine et du racisme, les grandes entreprises technologiques doivent faire plus d’efforts pour respecter les droits humains.  C’est pourquoi nous militons pour la mise en place de mesures réglementaires visant à forcer ces entreprises à respecter leurs responsabilités en matière de droits humains.

Les algorithmes sont un processus, un ensemble de règles ou d’instructions qui permettent à un programme informatique de regrouper plusieurs sources d’information pour générer des résultats. Ils sont également utilisés pour faire fonctionner les plateformes de réseaux sociaux et déterminer le contenu présenté à chaque utilisateur et utilisatrice.

Ils sont partout, dans différents aspects de nos vies et sont par exemple utilisés pour la gestion des systèmes de protection sociale, de maintien de l’ordre et de justice pénale.

Surveillance et vie privée 

Aux quatre coins du monde, nous constatons également que des technologies de pointe sont utilisées à mauvais escient pour espionner, harceler et intimider des défenseur·e·s des droits humains, y compris de jeunes militant·e·s, et pour étouffer les mouvements sociaux.

Nous ne devons pas nous contenter de nous pencher sur les technologies qui posent problème, nous devons remettre en question les conditions sociales, économiques et politiques qui permettent ou encouragent le détournement de technologies par de puissants acteurs, et les répercussions sur des groupes en particulier, comme les femmes, les minorités raciales, ethniques et religieuses, les enfants, les personnes LGBTQIA+, les personnes pauvres et celles victimes d’inégalités.

La technologie doit faciliter l’accès à l’information, et non la censurer, contrairement à ce que l’on peut constater notamment aux États-Unis, où des entreprises technologiques ont été accusées de permettre la censure en ligne de contenus liés aux droits reproductifs.

L’accès à des informations nécessaires sur la santé reproductive et les droits reproductifs, notamment l’avortement médical, est un droit universel.

Types de surveillance  

• Les technologies de reconnaissance faciale permettent de déterminer ou confirmer l’identité d’une personne en utilisant les traits de son visage sur des images ou des vidéos. 
• La surveillance biométrique est l’utilisation des caractéristiques individuelles pour identifier quelqu’un. Les formes les plus courantes utilisent les empreintes digitales et l’identification faciale. 
• La surveillance assistée par IA est l’utilisation de l’intelligence artificielle et des technologies de surveillance pour contrôler, suivre, analyser et identifier des personnes, des lieux et des objets. 

Surveillance assistée par IA

La surveillance assistée par IA peut être déployée par des gouvernements ou des entreprises pour diverses raisons, dont certaines peuvent avoir des répercussions sur les droits humains, par exemple le contrôle public.

Il est donc urgent d’établir des recommandations et lignes directrices détaillées pour encadrer l’utilisation de ces technologies. Nos enquêtes ont également mis en avant des arguments précis appuyant la nécessité d’interdire l’utilisation de ces technologies lorsqu’elles sont incompatibles avec les droits humains.

Nous continuerons à assurer un suivi, à enquêter et à plaider en faveur de l’intégration de protections renforcées dans la conception et l’utilisation de technologies nouvelles et de pointe, y compris l’intelligence artificielle et l’apprentissage automatique, les systèmes biométriques, notamment la reconnaissance faciale et les nouvelles « villes intelligentes » ou infrastructures urbaines numériques.

Surveillance ciblée des militant·e·s 

L’armée et les services de renseignement et de maintien de l’ordre sont les plus grands utilisateurs et clients de logiciels espions et d’entreprises de surveillance.

Ces entités peuvent être amenées à chercher des informations spécifiques, comme l’endroit où se trouve une personne, les sources d’un·e journaliste, les détails d’une manifestation qui s’organise, des informations sur des faits de corruptions ou des preuves d’actes illégaux.

Les gouvernements affirment qu’ils utilisent ces outils de surveillances pour cibler « les criminels et les terroristes », mais en réalité les personnes les plus souvent visées par les logiciels espions comme Predator sont des militant·e·s des droits humains, des journalistes et des opposant·e·s politiques. L’utilisation d’un logiciel espion est une atteinte à de nombreux droits humains, notamment le droit à la vie privée et les droits à la liberté d’expression, d’opinion, de réunion et d’association.

Mais les conséquences négatives des logiciels espions ne touchent pas tout le monde de la même manière. L’instrumentalisation de ces données peut entraîner d’autres atteintes aux droits humains, en ligne et hors ligne, notamment pour des personnes subissant déjà de la discrimination en raison de leur identité.  Ces atteintes peuvent prendre diverses formes, comme le chantage, le doxxing, le stalking en ligne, le harcèlement et l’intimidation.

Un logiciel espion est une forme de logiciel malveillant. Il interfère avec le fonctionnement normal d’un équipement afin de récolter des informations et les envoyer à une autre entité, qui n’a pas le droit d’y avoir accès, et ce sans alerter l’utilisateur ou utilisatrice.

Les logiciels espions hautement intrusifs permettent un accès illimité à l’appareil visé. Ils ne laissent que très peu de traces, et il est donc presque impossible pour l’utilisateur ou utilisatrice de savoir quelles données ont été volées.

Automatisation de l’État et intelligence artificielle

Aujourd’hui, l’intelligence artificielle (IA) inaugure une nouvelle ère technologique comme Internet l’a fait par le passé. Elle est présente dans pratiquement tous les aspects de notre vie quotidienne, qu’elle modèle et arbitre, de la production manufacturière aux services financiers, en passant par les soins de santé et l’économie.

Comment les États utilisent-ils l’automatisation et les systèmes algorithmiques ?

Les gouvernements utilisent de plus en plus d’algorithmes dans leurs processus décisionnels. Par exemple en ce qui concerne la prestation de soins de santé, le maintien de l’ordre, et l’immigration.

Cette utilisation de la technologie fait planer de nombreuses menaces sur les droits humains et pourrait engendrer des conséquences négatives notamment sur le droit à l’égalité et à la non-discrimination, ainsi que sur un ensemble de droits économiques et sociaux, comme le droit à l’éducation et à la santé. Des mesures de transparence et de responsabilisation sont nécessaires pour protéger les droits humains et atténuer les effets néfastes potentiels de cette automatisation.

Que sont les biais algorithmiques ?

On parle de biais algorithmiques lorsque des algorithmes prennent des décisions qui désavantagent systématiquement certains groupes de personnes.

Par exemple, si un algorithme prédit la probabilité qu’un crime soit commis par une certaine personne ou dans un lieu en particulier, ces personnes ou ces lieux seront surveillés de près par la police, ce qui pourra engendrer la discrimination des personnes visées.

Futures tendances technologiques

Les technologies émergentes continueront à transformer nos sociétés.

Les gouvernements utilisent de plus en plus l’intelligence artificielle dans les processus décisionnels du secteur public. Cela affectera la vie et les droits humains de nombreuses personnes.

Amnesty International a pour objectif d’identifier les potentielles conséquences des technologies émergentes, comme l’IA générative, sur les droits humains, puis de contacter les gouvernements et les entreprises pour s’assurer que ces technologies soient développées et déployées dans le respect des droits fondamentaux.

Les nouvelles technologies doivent être développées et déployées avec de solides garde-fous garantissant l’obligation de rendre compte de ses actes, et des cadres politiques permettant de protéger les droits humains partout dans le monde. La technologie doit servir les intérêts de toute l’humanité, pas seulement ceux de quelques riches et puissants propriétaires d’entreprises développant ces technologies.

Les gouvernements ont la responsabilité de veiller à ce que les entreprises agissent de manière responsable lorsqu’elles investissent dans la technologie.

Que fait Amnesty International pour que les gouvernements et les entreprises technologiques prennent leurs responsabilités ?

Nous pensons qu’il est temps que la technologie accorde une place centrale aux personnes et aux droits humains.  

Pour cela, nous enquêtons. Nous faisons campagne. Nous nous mobilisons pour infléchir les politiques. Nous luttons pour la justice. Nous amenons les puissants à rendre des comptes. Nous traçons la voie à suivre en ce qui concerne l’avenir des droits humains et de la technologie pour :  

• Recâbler Internet afin que les personnes et les droits humains occupent une place prépondérante, en veillant à ce que les géants technologiques soient soumis à une réglementation qui protège efficacement les droits fondamentaux, et à ce que les entreprises en général soient plus transparentes et plus responsables.  

• Résister à une utilisation de la technologie qui vise à réduire au silence les militant·e·s, en empêchant la surveillance illégale, la censure et les coupures de l’accès à Internet.  

• Réécrire le code de façon à protéger les droits humains, en faisant en sorte que la discrimination et les préjugés ne soient plus programmés dans les algorithmes qui prennent des décisions susceptibles de changer des vies. 

Notre théorie du changement est la suivante : nous pouvons limiter l’utilisation abusive des technologies par les États et les entreprises en nous appuyant tout d’abord sur nos capacités uniques de recherche et de communication fondées sur l’action pour déceler et mettre en évidence les nouvelles menaces que les technologies font peser sur nos droits, puis en faisant appel au mouvement d’Amnesty pour pousser les entreprises et les gouvernements de tous les pays du monde, ainsi que les principales institutions multilatérales, à adopter des lois responsables et efficaces pour limiter ces abus.