Cómo puedes ayudar a Amnistía a combatir a los troles de Twitter

De Milena Marin, Amnesty International's Senior Innovations Campaigner

Advertencia: Contiene capturas de pantalla con lenguaje racista y sexista explícito

Miles de activistas digitales nos están ayudando a crear un algoritmo capaz de detectar automáticamente los abusos online. Aquí averiguarás cómo puedes unirte al movimiento online que lucha contra los troles

¿Crees que este tuit es insultante 

[Traducción: "¿Por qué no te mueres ya, zorra de mierda?"]

¿Y éste?

[Traducción: "Es hora de una limpieza étnica"]

Estos son algunos de los terribles abusos que muchas mujeres sufren en Twitter de forma habitual. Aunque está claro que los tuits publicados más arriba violan la propia política de Twitter sobre las conductas de incitación al odio, que prohíbe, entre otras cosas, los “tropos racistas [...] no consensuado[s]” y las “amenazas de violencia”, en el momento de redactar estas líneas esos tuits continúan online.

Está claro que las mujeres no pueden depender de que Twitter identifique los abusos y les haga frente. Por eso, Amnistía Internacional ha diseñado un proyecto único de colaboración colectiva que proporciona a cualquiera que tenga un teléfono o un portátil una vía para luchar.

El mes pasado, Amnistía Internacional publicó una amplia investigación sobre las experiencias de las mujeres respecto a denunciar la violencia y los abusos a Twitter, que se ha convertido en una plataforma tristemente famosa por tolerar los elementos más oscuros y repugnantes de la misoginia.

En aquella investigación documentamos la frustración generalizada por lo contradictorio de la aplicación, por parte de Twitter, de sus propias políticas, y por el hecho de que la plataforma no explicara decisiones en ocasiones desconcertantes sobre cuándo es admisible el contenido abusivo, ni rindiera cuentas de esas decisiones.

Pese a las múltiples peticiones dirigidas a Twitter, la empresa se ha negado a publicar dato alguno sobre el número de denuncias de abusos que recibe, cómo responde a ellas o qué formación imparte a sus moderadores y moderadoras. Esto oculta la magnitud del problema y hace que resulte muy difícil saber cómo puede mejorarse el actual sistema de presentación de denuncias, que es evidente que para muchas mujeres no funciona.

La recopilación de datos es el primer paso para hacer que Twitter rinda cuentas de su falta de protección de los derechos humanos online, y aquí es donde entras tú.

La Patrulla Antitroles es una nueva plataforma que capacita a los y las internautas para contribuir a que Twitter sea un lugar más seguro y menos tóxico. Aprovechando el poder de una red global de activistas digitales, la Patrulla Antitroles está en la primera línea de la manera en que Amnistía Internacional está combinando el aprendizaje automático y la colaboración colectiva para abordar los abusos contra los derechos humanos.

Funciona así. En 2017 recopilamos cientos de miles de tuits enviados a mujeres políticas y periodistas. Algunos eran amenazadores o insultantes, mientras que otros eran inofensivos. Ahora pedimos a voluntarios y voluntarias que nos ayuden a clasificarlos, señalando los que son insultantes o problemáticos.

Finalmente tendremos datos suficientes sobre qué aspecto tienen los abusos online, y podremos utilizar el aprendizaje automático para detectar automáticamente los tuits abusivos.

Utilizando tecnologías punteras de aprendizaje automático, el innovador proyecto de Amnistía Internacional podrá finalmente construir un algoritmo que pueda detectar los abusos automáticamente.

En las últimas semanas, más de 5.000 personas de todo el mundo se han presentado voluntarias para participar en la Patrulla Antitroles.

Estas personas pueden dedicar tan sólo 30 segundos a leer un tuit y decirnos si su contenido es problemático o abusivo, y clasificar el tipo de abuso. ¿Contiene sexismo u homofobia? ¿Hay amenazas sexuales o físicas?

Sabemos que en este asunto las cosas no son blancas o negras. No todo el mundo define o experimenta los abusos de la misma manera y, a veces, contenido que puede no parecer tan malo de por sí puede tener efectos perjudiciales si se envía repetidamente, como el tuit que aparece más abajo:

[Traducción: "Sé una buena chica... vete a lavar los platos"]

Por eso, verificamos todas las contribuciones y las agrupamos junto con el trabajo de miles de personas más. El resultado es una enorme base de datos de ejemplos de tuits abusivos contra las mujeres, que nos ayudan a detectar y comprender mejor los patrones de los abusos online.

Utilizando tecnologías punteras de aprendizaje automático, el innovador proyecto de Amnistía Internacional podrá finalmente construir un algoritmo que pueda detectar los abusos automáticamente.

Una vez que podamos identificar los abusos automáticamente, podremos responder fácilmente a preguntas como: ¿quién sufre abusos online? ¿Quiénes publican esos abusos? Y, lo más importante, ¿qué más podemos hacer para que Twitter les ponga fin?

Otras plataformas de redes sociales están utilizando también aprendizaje automático para acabar con los abusos online, pero la Patrulla Antitroles es única en el sentido de que permite a los usuarios y usuarias de las redes sociales contribuir para encontrar una solución.

En el pasado, Amnistía Internacional ha utilizado una plataforma similar para analizar datos sobre vertidos de petróleo en el delta del Níger y sacar a la luz la grave negligencia de las empresas petroleras.

Mediante la investigación realizada a partir de colaboración colectiva, hemos podido reunir datos fundamentales en una fracción del tiempo que le llevaría a un investigador o investigadora de Amnistía, sin perder el elemento de criterio humano tan esencial para nuestro trabajo.

Si los voluntarios y voluntarias pueden identificar los abusos online de manera sistemática, Twitter también debería poder hacerlo.

La Patrulla Antitroles no consiste en actuar como policía de Twitter ni obligarle a eliminar contenidos. Le pedimos que sea más transparente, y confiamos en que el presentar los datos de la Patrulla Antitroles le impulsará a realizar ese cambio.

Cuanto más sepan los usuarios y usuarias de Twitter sobre la magnitud del problema, más confianza tendrán a la hora de denunciar abusos.

Si los voluntarios y voluntarias pueden identificar los abusos online de manera sistemática, Twitter también debería poder hacerlo. La empresa respondió el mes pasado a nuestra investigación diciendo que no puede “eliminar el odio y los prejuicios de la sociedad”.

No le pedimos que haga eso: lo que le pedimos es que deje de alimentar el odio y los prejuicios permitiendo que en su plataforma los abusos no se controlen.

¿Quieres ayudar a derrotar a los troles? Cualquiera que tenga conexión a Internet y un teléfono móvil, una tablet o un ordenador puede contribuir a la Patrulla Antitroles.