Des milliers de cyber-militants nous aident à construire un algorithme pouvant détecter automatiquement les violences en ligne. Voici comment vous pouvez rejoindre ce mouvement numérique contre les trolls.
Pensez-vous que ce tweet est violent ?
« tu ne peux pas juste crever, salope ? »
Que pensez-vous de celui-là ?
« on a besoin d’un nettoyage ethnique »
Voilà le genre de violences auxquelles de nombreuses femmes sont confrontées régulièrement sur Twitter. Même si les tweets ci-dessus contreviennent clairement à la politique en matière de conduite haineuse de Twitter, qui interdit, entre autres, les « clichés racistes sans consentement de la part de la personne visée » et les « menaces violentes », ils étaient encore en ligne au moment de la rédaction du présent article.
Les femmes ne peuvent manifestement pas compter sur Twitter pour identifier et régler ce genre de problèmes. C’est pourquoi Amnesty International a mis en place un projet à caractère participatif unique qui donne à toute personne possédant un téléphone ou un ordinateur la possibilité de combattre ce fléau.
Le mois dernier, Amnesty International a publié des recherches approfondies sur les expériences de femmes ayant signalé des violences et des injures sur Twitter, plateforme devenue tristement célèbre pour sa tolérance à l’égard des pires discours misogynes. Nous avons rassemblé des informations sur la frustration généralisée quant à l’application incohérente par Twitter de ses propres politiques, et quant au fait que la plateforme n’explique pas ses décisions parfois déroutantes sur les circonstances dans lesquelles un contenu injurieux est autorisé.
Malgré de nombreuses demandes, l’entreprise a refusé de rendre publiques les données relatives au nombre de signalements de violences qu’elle reçoit, à la façon dont elle y répond ou à la formation qu’elle dispense à ses modérateurs. Cela cache l’étendue du problème et rend très difficile de savoir comment le système de signalement actuel – qui selon toute évidence ne fonctionne pas pour de nombreuses femmes – pourrait être amélioré. Recueillir les données est la première étape pour amener Twitter à rendre des comptes concernant son échec en matière de protection des droits humains en ligne – et c’est là que vous intervenez.
Troll Patrol est une nouvelle plate-forme qui permet aux internautes de contribuer à faire de Twitter un lieu plus sûr, moins toxique. Mobilisant la puissance d’un réseau international de militants en ligne, Troll Patrol est au premier plan de la façon dont Amnesty International allie l’apprentissage machine et une démarche participative pour s’attaquer aux violations des droits humains.
Voici comment cela fonctionne : nous avons réuni des centaines de milliers de tweets envoyés à des femmes politiques et à des journalistes de sexe féminin en 2017. Certains de ces tweets peuvent être menaçants ou injurieux, tandis que d’autres sont inoffensifs. Nous demandons maintenant à des bénévoles de nous aider à trier ces tweets en signalant ceux qui sont injurieux ou qui posent problème. À la fin, nous aurons suffisamment de données sur les éléments constitutifs des violences en ligne. Cela nous permettra d’utiliser l’apprentissage machine pour détecter automatiquement les tweets injurieux.
En utilisant des technologies de pointe d’apprentissage machine, les innovateurs d’Amnesty International pourront à terme construire un algorithme capable de détecter les violences automatiquement.
Ces trois dernières semaines, plus de 5 000 personnes du monde entier se sont portées volontaires pour participer à Troll Patrol.
En 30 secondes à peine, ces bénévoles peuvent lire un tweet et nous dire si son contenu est problématique ou injurieux, et répertorier les différents types de violences. Est-il sexiste ou homophobe ? Contient-il des menaces sexuelles ou physiques ?
Nous savons que la question est complexe. Tout le monde ne définit ou ne vit pas les violences de la même façon, et parfois, un contenu pouvant sembler relativement insignifiant, pris isolément, peut avoir des effets négatifs s’il est envoyé de façon répétée, comme le tweet ci-dessous :
« Sois gentille… va faire la vaisselle. »
Nous vérifions donc toutes les contributions et les associons aux travaux de milliers d’autres personnes. Le résultat sera une gigantesque base de données d’exemples de tweets injurieux contre des femmes, qui nous aidera à identifier et à mieux comprendre comment les violences en ligne fonctionnent. En utilisant des technologies de pointe d’apprentissage machine, les innovateurs d’Amnesty International pourront à terme construire un algorithme capable de détecter les violences automatiquement.
Une fois qu’il sera possible d’identifier les violences automatiquement, nous pourrons aisément répondre à des questions telles que : qui est victime de violences en ligne ? Qui sont les auteur-e-s de ces violences ? Et, surtout, qu’est-ce que Twitter peut faire de plus pour y mettre fin ?
D’autres plateformes de réseaux sociaux utilisent également l’apprentissage machine pour agir contre les violences en ligne, mais Troll Patrol est unique en ce sens qu’il permet aux utilisateurs de réseaux sociaux de contribuer à trouver une solution.
Amnesty International a utilisé une plateforme similaire par le passé pour analyser des données sur les déversements d’hydrocarbures dans le delta du Niger et révéler de graves négligences de la part des compagnies pétrolières. Grâce au caractère participatif de ces recherches, nous avons pu rassembler des éléments déterminants en une fraction du temps qu’il aurait fallu à un chercheur d’Amnesty International seul, et ce sans sacrifier le jugement humain indispensable à nos travaux.
S’il est possible pour des bénévoles d’identifier systématiquement les violences en ligne, alors Twitter devrait en être capable aussi.
Le but de Troll Patrol n’est pas de rétablir l’ordre sur Twitter ou de forcer la plateforme à supprimer du contenu. Nous lui demandons d’être plus transparente, et nous espérons que les données récoltées par Troll Patrol la contraindront à changer en ce sens. Plus les utilisateurs de Twitter connaîtront l’étendue du problème, plus ils seront sûrs d’eux lorsqu’ils signaleront des violences.
S’il est possible pour des bénévoles d’identifier systématiquement les violences en ligne, alors Twitter devrait en être capable aussi. Le mois dernier, l’entreprise a réagi aux conclusions de nos recherches en déclarant qu’elle « ne pouvait pas retirer la haine et les préjugés de la société ». Nous ne demandons pas à Twitter de faire cela, mais d’arrêter de nourrir la haine et les préjugés en permettant que les violences sur sa plateforme restent impunies.
Vous voulez aider à combattre les trolls ? Toute personne possédant une connexion Internet et un téléphone portable, une tablette ou un ordinateur peut contribuer à Troll Patrol : https://decoders.amnesty.org/projects/troll-patrol