En respuesta al resultado de la histórica Ley de Inteligencia Artificial (IA) de lo que se ha dado en conocer como ‘el bloque’ —la Comisión, el Consejo y el Parlamento de la UE— tras un tenso debate entre los Estados miembros, Mher Hakobyan, asesor en materia de inteligencia artificial, declaró:
“Las tres instituciones europeas —la Comisión, el Consejo y el Parlamento— han dado luz verde a una vigilancia digital distópica en los 27 Estados miembros de la UE, lo que sienta un precedente devastador a escala mundial en materia de regulación de la inteligencia artificial (IA).
El hecho de no garantizar la prohibición total del reconocimiento facial es, por tanto, una gran oportunidad perdida para detener y prevenir un daño colosal a los derechos humanos, el espacio cívico y el Estado de Derecho, que ya están amenazados en toda la UE.
Mher Hakobyan, asesor para el trabajo de incidencia sobre inteligencia artificial
“Es decepcionante ver cómo el Parlamento Europeo sucumbe a la presión de los Estados miembros y da marcha atrás en su posición original, que ofrecía sólidas protecciones, incluida la prohibición incondicional del reconocimiento facial en directo. Aunque los defensores del proyecto sostienen que sólo se permite un uso limitado del reconocimiento facial y que está sujeto a salvaguardias, las investigaciones de Amnistía en Nueva York, los Territorios Palestinos Ocupados, Hyderabad y otros lugares demuestran que ninguna salvaguardia puede impedir los daños a los derechos humanos que inflige el reconocimiento facial, razón por la cual es necesaria una prohibición absoluta. El hecho de no garantizar la prohibición total del reconocimiento facial es, por tanto, una gran oportunidad perdida para detener y prevenir un daño colosal a los derechos humanos, el espacio cívico y el Estado de Derecho, que ya están amenazados en toda la UE.
“Los legisladores y legisladoras tampoco lograron prohibir la exportación de tecnologías de IA perjudiciales, incluidas las de puntuación social (social scoring), que serían ilegales en la UE. Permitir que las empresas europeas se beneficien de tecnologías que la ley reconoce que vulneran los derechos humanos en sus países de origen establece un peligroso doble rasero”.
Información complementaria
Tras el acuerdo político provisional a alto nivel, se celebrarán reuniones técnicas intensivas antes de que el texto definitivo pueda adoptarse como ley.
Amnistía Internacional ha pedido que se prohíba el uso, desarrollo, producción, venta y exportación de tecnología de reconocimiento facial con fines de identificación, tanto por parte de organismos estatales como de actores del sector privado. Hemos formado parte de una coalición de organizaciones de la sociedad civil encabezada por la Red Europea de Derechos Digitales (EDRi), que ha venido pidiendo una regulación de la UE sobre la inteligencia artificial que proteja y promueva los derechos humanos, incluidos los derechos de las personas en movimiento.