Getty Images/ImaZinS RF

Amnistía Internacional pide que se prohíba el uso de tecnología de reconocimiento facial con fines de vigilancia masiva

  • En el contexto de la actuación policial racialmente discriminatoria y la aplicación de criterios raciales contra las personas negras, el uso de la tecnología de reconocimiento racial podría exacerbar el riesgo de violaciones de derechos humanos cometidas por la policía, a la vez que menoscaba también el derecho de manifestación pacífica y el derecho a la privacidad.
  • Los organismos encargados de hacer cumplir la ley vulneran a diario los derechos humanos de la población en la calle. Necesitamos una policía que cumpla con sus obligaciones y garantice el derecho humano de protestar pacíficamente contra los homicidios policiales y el derecho de la prensa a informar de ello. Los organismos encargados de hacer cumplir la ley tienen la responsabilidad de facilitar el derecho de manifestación pacífica, no de anularlo.
  • Nos enorgullece apoyar a organizaciones como la Algorithmic Justice League, la ACLU, la Electronic Frontier Foundation y otras que han puesto de relieve los peligros de la tecnología de reconocimiento facial. Amnistía pide que se prohíba el uso, desarrollo, producción, venta y exportación de tecnología de reconocimiento facial con fines de vigilancia masiva en la policía y otros organismos del Estado.

“Tecnología de reconocimiento facial” es un término genérico, utilizado para describir un conjunto de aplicaciones que realizan una función específica utilizando un rostro humano para identificar a una persona o verificar su identidad. Esta tecnología puede servir para para identificar o clasificar a las personas a escala basándose en sus características físicas, incluso por medio de observaciones o inferencias de características protegidas, como la raza, la etnia, el género, la edad y condición de discapacidad.

En los últimos años ha tenido una aceptación enorme, especialmente entre los organismos encargados de hacer cumplir la ley. Por ejemplo, la empresa de tecnología de reconocimiento facial Clearview AI dice trabajar con más de 600 organismos encargados de hacer cumplir la ley en Estados Unidos sólo. Otras empresas similares, como Dataworks Plus, también venden sus sistemas a departamentos de policía de todo el país.

Lo vemos a diario en Estados Unidos, donde departamentos de policía de todo el país utilizan el reconocimiento facial para identificar a manifestantes.

El uso policial de la tecnología de reconocimiento facial viola los derechos humanos de distintas maneras. En primer lugar, en el contexto de la actuación policial racialmente discriminatoria y la aplicación de criterios raciales contra las personas negras, el uso de esta tecnología podría exacerbar el riesgo de que la policía cometa violaciones de derechos humanos cuando actúa contra comunidades negras. Las investigaciones realizadas coinciden en que los sistemas de reconocimiento facial procesan algunos rostros con más precisión que otros, dependiendo de características clave como el color de la piel, la etnia y el género. Por ejemplo, el Instituto Nacional de Estándares y Tecnología (NIST) ha medido los efectos de la raza, la edad y el sexo en destacados sistemas de reconocimiento facial utilizados en Estados Unidos –según el Dr. Charles H. Romine, director del NIST, “el estudio midió tasas más altas de falsos positivos en las mujeres, las personas afroamericanas y, en particular, las mujeres afroamericanas”–.

Asimismo un equipo de investigación de la Universidad de Georgetown ha advertido de que la tecnología de reconocimiento facial “afectará desproporcionadamente a las personas afroamericanas”, debido en gran parte que, en las listas de personas bajo vigilancia de la policía de Estados Unidos, hay considerablemente más rostros negros que blancos. “Los sistemas de reconocimiento facial de la policía arrojan peores resultados con las personas afroamericanas, pero es que, además, éstas tienen más probabilidades de que se las incluya en ellos y de ser objeto del tratamiento que realizan” (“The Perpetual Line-Up: Unregulated Police Face Recognition in America”, Clare Garvie, Alvaro Bedoya, Jonathan Frankle, Centro de Privacidad y Tecnología de la Escuela de Derecho de la Universidad de Georgetown, Washington D.C. (2016).

En segundo lugar, cuando el reconocimiento facial se utiliza con fines de identificación y vigilancia masiva, al “solucionar” el problema de la tasa de precisión y mejorar las tasas de precisión en el caso de los grupos ya marginados o desfavorecidos no se aborda el impacto de la tecnología de reconocimiento facial en el derecho de manifestación pacífica y el derecho a la privacidad. Por ejemplo, las personas negras sufran ya una injerencia desproporcionada en la privacidad y otros derechos, por lo que “mejorar” la precisión puede suponer simplemente aumentar la vigilancia y el desempoderamiento de una comunidad ya desfavorecida.

La tecnología de reconocimiento facial comporta supervisión, recopilación, almacenamiento, análisis u otros usos de material y recopilación de datos personales sensibles (datos biométricos) de manera masiva y generalizada, sin sospecha razonable e individualizada de delito, lo que constituye vigilancia masiva indiscriminada. Amnistía Internacional cree que la vigilancia masiva indiscriminada no es nunca una injerencia proporcionada en los derechos a la privacidad y la libertad de expresión, de asociación y de reunión pacífica.

Los Estados deben también respetar, proteger y hacer efectivo el derecho de reunión pacífica, sin discriminación. El derecho de reunión pacífica es fundamental no sólo como medido de expresión política, sino también para proteger otros derechos. Las manifestaciones pacíficas son un aspecto fundamental en una sociedad vibrante, y los Estados deben reconocer la función positiva que desempeñan en el fortalecimiento de los derechos humanos.

A menudo es la capacidad de formar parte de una multitud anónima lo que permite que muchas personas participen en reuniones pacíficas. El relator especial sobre la promoción y protección del derecho a la libertad de opinión y de expresión, David Kaye, ha afirmado: “En entornos sometidos a una vigilancia ilícita generalizada, las comunidades vigiladas conocen o sospechan de tales actividades, lo que a su vez perturba y restringe su capacidad para ejercer sus derechos a la libertad de expresión [y de] asociación”.

Por tanto, del mismo modo que la mera amenaza de vigilancia tiene un efecto inhibidor de la libertad de expresión en las actividades de las personas en Internet, el uso de la tecnología de reconocimiento facial disuadirá a las personas de asistir libremente a reuniones pacíficas en espacios públicos.

Una avalancha de legislación local promulgada en 2019 ha comportado restricciones del uso de tecnología de reconocimiento facial para hacer cumplir la ley en numerosas ciudades de Estados Unidos, entre ellas San Francisco y Oakland, en California, y Somerville y Brookline, en Massachusetts. San Diego tiene suspendido el uso de tecnología de reconocimiento facial para hacer cumplir la ley desde enero de 2020. Portland, Oregón, está considerando en la actualidad la posibilidad de prohibir progresivamente su uso por agentes tanto estatales como no estatales. En la asamblea legislativa de Massachusetts se está sometiendo a debate una prohibición de ámbito estatal del uso de tecnología de reconocimiento facial por parte de los organismos públicos.

Amnistía pide que se prohíba el uso, desarrollo, producción, venta y exportación de tecnología de reconocimiento facial con fines de vigilancia masiva en la policía y otros organismos públicos. Nos enorgullece apoyar a organizaciones como la Algorithmic Justice League, la ACLU, la Electronic Frontier Foundation y otras que han puesto de relieve los peligros de la tecnología de reconocimiento facial.