El Parlamento Europeo ha votado a favor de la prohibición total de la vigilancia biométrica masiva, al considerar los graves riesgos que representan las tecnologías de vigilancia remota impulsadas por Inteligencia Artificial (IA) para los derechos y libertades fundamentales como la privacidad.

En una resolución adoptada por 377 votos a favor, 248 en contra y 62 abstenciones, los parlamentarios enfatizaron sobre la necesidad de supervisión humana y poderes legales para prevenir la discriminación por parte de aplicaciones de IA, especialmente en un contexto de aplicación de la ley o de cruce de fronteras.

Los eurodiputados consideraron que los operadores humanos siempre deben tomar las decisiones finales y los sujetos monitoreados por sistemas impulsados por IA deben tener acceso a la reparación.

“Los derechos fundamentales son incondicionales. Por primera vez en la historia, pedimos una moratoria en el despliegue de sistemas de reconocimiento facial con fines de aplicación de la ley, ya que la tecnología ha demostrado ser ineficaz y, a menudo, conduce a resultados discriminatorios. Nos oponemos claramente a la vigilancia policial predictiva basada en el uso de IA, así como a cualquier procesamiento de datos biométricos que conduzca a una vigilancia masiva”, señala el relator Petar Vitanov en un comunicado.

El Parlamento también ha pedido la prohibición del uso de bases de datos privadas de reconocimiento facial, como el controvertido sistema de Inteligencia Artificial creado por la startup estadounidense Clearview (también ya en uso por algunas fuerzas policiales en Europa).

La nueva resolución llama a los legisladores de la Unión Europea al análisis de una regulación que prohíba permanente el reconocimiento automático de personas en los espacios públicos, al considerar que los ciudadanos sólo deberían ser monitoreados cuando se sospeche de un delito.

El pasado abril, la Unión Europea presentó un borrador de ley para la regulación de las aplicaciones de IA basadas en el análisis de riesgo, aunque incluía la prohibición total de sistemas de vigilancia masiva, así como el uso de aplicaciones de crédito social que podrían fomentar la discriminación y desigualdad.

La Unión Europea (UE) publicó este 9 de septiembre el nuevo Reglamento sobre el control de las exportaciones, a través del cual busca reforzar el control sobre la comercialización, transferencia, corretaje y tránsito de productos de doble uso, es decir, que se venden como productos para los hogares, pero que podrían tener fines militares o de vigilancia.

La UE asegura que el nuevo reglamento mejorará su capacidad para proteger los derechos humanos y potenciar las cadenas de suministro seguras de productos estratégicos.

Las nuevas normas “refuerzan los controles en una amplia gama de tecnologías de uso dual y la coordinación entre los Estados miembros y la Comisión en el apoyo de la aplicación efectiva de los controles en toda la UE”, indica un comunicado del Consejo Europeo.

La Unión Europea explica que el nuevo marco permitirá adoptar una serie de medidas para poner en común conocimientos y afrontar retos concretos, en particular en relación con la cibervigilancia, pero también sobre las tecnologías emergentes de doble uso, como la informática avanzada.

Se prepara la introducción de directrices sobre obligaciones de diligencia debida para los productores, que también otorgarán a las empresas un papel importante a la hora de abordar los riesgos para la seguridad internacional que a veces plantean los artículos de doble uso.

El Reglamento introduce una mayor transparencia mediante el incremento de las consultas y la presentación de informes entre los Estados miembros y la Comisión, contribuyendo al desarrollo de una nueva plataforma de la UE de concesión de licencias por vía electrónica, que ya se encuentra en fase piloto en cuatro Estados miembros.

El informe Vigilancia tecnológica: Hecho en el extranjero, utilizado en casa, elaborado por la organización Access Now, revela el alarmante estado de la vigilancia biométrica en tres países de la región: Argentina, Brasil y Ecuador. 

La organización indica que, mientras la prohibición de la vigilancia a partir de los datos biométricos avanza alrededor del mundo, América Latina camina en la dirección contraria, ya que muchos gobiernos de la región han comprado y acelerado la implementación de estas tecnologías.

Relacionado: China inicia agosto con regulación al reconocimiento facial

Tal como se advierte desde el título, en el informe Access Now enfatiza el hecho de que la mayoría de la tecnología de vigilancia masiva sea proporcionada por empresas extranjeras, las cuales provienen principalmente de Asia, Europa y Estados Unidos.

Algunas de las compañías que se enlistan en el informe son AnyVision, Hikvision, Dahua, Cellebrite, ZTE, NEC, IDEMIA y Verint.

Y, pese a que el informe tiene un alcance regional, destaca a tres países por la creciente infraestructura de vigilancia biométrica que se ha desplegado en ellos durante los últimos años: Argentina, Brasil y Ecuador. 

Argentina

En 2011, en Argentina se creó una base masiva de datos biométricos llamada SIBIOS, que durante la última década se ha convertido en la infraestructura de muchas tecnologías de vigilancia tanto a nivel nacional como local.

Para este país, Access Now destaca a AnyVision, una empresa israelí especializada en el reconocimiento facial, que le provee software de identificación biométrica a la provincia de Córdoba y al aeropuerto internacional Ezeiza de Buenos Aires.

Y también hay presencia del software de la empresa francesa IDEMIA para la identificación de carteristas en el metro de Buenos Aires, y cámaras térmicas de los proveedores chinos Hikvision y Dahua en las terminales de trenes y las líneas de autobuses para el rastreo de personas con fiebre.

Brasil

El informe documenta el uso de las tecnologías de vigilancia en Brasil, tanto en el sector público como en el privado, en los ámbitos de la seguridad pública, la detección de fraudes y el monitoreo de la asistencia escolar.

Access Now señala que en las regiones noreste y sudeste del país se ha promocionado intensamente la utilización de las tecnologías de reconocimiento facial bajo el argumento de que se trata de una medida para garantizar la seguridad pública, y destaca como más preocupantes los casos en que las empresas donan estas tecnologías a los gobiernos locales y los habitantes son usados como población de prueba.

En este país el informe cita como ejemplo la donación de más de un millón y medio de dólares hecha por empresas chinas como Hikvision, Dahua y ZTE para instalar más de 4 mil cámaras de videovigilancia en el estado de São Paulo.

Ecuador

En 2012 se creó en Ecuador el “Servicio Integrado de Seguridad ECU911”, que desplegó una infraestructura de vigilancia para las fuerzas de seguridad del país con más de 6 mil 600 cámaras, algunas de las cuales tienen incorporada la tecnología de reconocimiento facial. Y en 2019, la organización tuvo conocimiento de que esa tecnología había sido usada para espiar a rivales políticos y coaccionar a gran parte de la población.

En Quito se han adquirido cámaras fabricadas por Hikvision, mientras que Guayaquil ha optado por las tecnologías de vigilancia del proveedor estadounidense Verint.

Además, el informe asienta que ahora ambas empresas están expandido su alcance a otros municipios, como Nayón, Pedro Moncayo y Daule, y otras ciudades, como Quevedo, Ambato, Pelileo, Guano, Salcedo, Santa Elena y Rumiñahui.

Las causas del avance de la vigilancia biométrica en América Latina

Los autores del informe destacan como principal causante de la rápida adopción de estas tecnologías a la difusión acrítica que la prensa hace de ellas como las soluciones para los problemas de violencia y crimen en las calles.

Te recomendamos: NSO bloquea Pegasus a gobiernos tras denuncias de espionaje 

Eso, según Access Now, provoca que los gobiernos enfrenten una gran presión del público para encontrar soluciones a sus problemas de inseguridad, lo cual crea un área de oportunidad para que las compañías extranjeras ofrezcan sus productos tecnológicos de vigilancia, pese a que, como lo demostró el caso de Pegasus revelado recientemente, en muchas ocasiones sean invasivas y vulneren derechos humanos, como la privacidad, la protección de datos y la libre asamblea y asociación.

El informe asienta que, en la mayoría de los casos, los procesos mediante los cuales los gobiernos de la región adquieren estos sistemas de vigilancia son opacos y se realizan en desacato de las leyes de transparencia y rendición de cuentas que rigen en los países, como también se ha constatado con el software espía Pegasus en México.

Lee también: The Guardian revela posible espionaje telefónico a periodista asesinado

El informe Vigilancia tecnológica: Hecho en el extranjero, utilizado en casa, fue realizado por la organización Access Now en colaboración con la Asociación por los Derechos Civiles (ADC), el Laboratorio de Políticas Públicas e Internet (LAPIN) y LaLibre.net (Tecnologías Comunitarias).

En las conclusiones, el informe exhorta a los legisladores de los países latinoamericanos a realizar acciones fuertes y concretas para detener la propagación de esta tecnología y prohibir el software que posibilita la vigilancia masiva.

Además, recomienda implementar robustas medidas para incrementar la transparencia y la rendición de cuentas, tanto para las empresas que desarrollan la tecnología como para las autoridades que la contratan.

Un grupo de empresas tecnológicas pone contra las cuerdas al proveedor israelí de software espía, NSO Group. Microsoft, Google, Cisco, GitHub, LinkedIn, VMware e Internet Association firmaron un escrito en conjunto apoyando la acción legal de Facebook y advirtiendo que las herramientas de la empresa israelí son potencialmente peligrosas.

El año pasado, Facebook emprendió una demanda contra NSO Group después de que se reveló que la empresa de cibervigilancia explotó una falla en el servicio de mensajería instantánea, WhatsApp, para ayudar a vigilar más de mil 400 smartphones pertenecientes a periodistas y activistas de todo el mundo.

En el documento, el grupo sostiene que las herramientas de NSO podrían ser “increíblemente peligrosas si caen en las manos equivocadas”. Además, resalta que son una amenaza para los derechos humanos, ya que no se rigen por las mismas restricciones que las agencias de seguridad gubernamentales debido a que son desarrolladas por una empresa privada.

“Las empresas privadas deben seguir estando sujetas a responsabilidad cuando utilizan sus herramientas de cibervigilancia para infringir la ley o permiten a sabiendas su uso para tales fines, independientemente de quiénes sean sus clientes o de lo que intenten lograr”, concluye el escrito.

Recomendado: Espionaje masivo a periodistas de Al Jazeera se realizó con software desarrollado por NSO Group

NSO Group no ha respondido al documento, pero en otras ocasiones se ha protegido con el argumento de que su software es utilizado por las fuerzas del orden para combatir el crimen. No obstante, algunos investigadores como Citizen Lab y organizaciones defensoras de los derechos humanos como Amnistía Internacional han demostrado que la tecnología de NSO se utiliza ampliamente para atacar a grupos de crítica gubernamental.

El software espía Pegasus es conocido por tener la capacidad de manipular los teléfonos móviles de las víctimas sin dejar rastro, logrando acceder a datos sensibles como la ubicación, la cámara o el micrófono, así como grabar conversaciones telefónicas, tomar fotografías, leer e-mails y mensajes de texto.

La Unión Europea acordó introducir reglas más estrictas para la venta y exportación de tecnología de cibervigilancia como el reconocimiento facial y el software espía.

Entre las tecnologías que aplican para esta nueva regulación destaca la exportación de los denominados bienes (software y tecnología) de doble uso, por ejemplo, computadoras de alto rendimiento, drones y ciertos productos químicos.

Las nuevas regulaciones obligarán a las empresas que comercian con este tipo de tecnologías a obtener licencias de los gobiernos. También se espera que las compañías evalúen los posibles abusos de derechos humanos que podrían ocurrir por el uso de la tecnología. Si los gobiernos otorgan licencias, deberán compartir los detalles de esas licencias de forma pública.

“El día de hoy marca una victoria para los derechos humanos globales. Hemos dado un ejemplo importante para que lo sigan otras democracias. Los regímenes autoritarios ya no podrán poner sus manos en secreto en la cibervigilancia europea”, declaró en un comunicado la legisladora Marketa Gregorova.

La decisión del Parlamento ha sido solicitada en numerosas ocasiones por organizaciones pro derechos humanos. En septiembre, una investigación de Amnistía Internacional acusó a las empresas europeas de tecnología –dedicadas a la producción de tecnología biométrica– de poner en riesgo los derechos humanos al vender tecnología de vigilancia digital a las agencias de seguridad pública de China.

Amnistía Internacional descubrió que tres empresas con sede en Francia, Suecia y los Países Bajos vendían sistemas de vigilancia digital, como tecnología de reconocimiento facial y cámaras de red, a actores clave del aparato chino de vigilancia masiva.