Amazon acaba de extender indefinidamente la prohibición que se impuso para detener las ventas de su sistema de reconocimiento facial a las agencias de policía.

La medida surge un año después de que la compañía anunció por primera vez su cambio de política, en medio de las protestas que inundaron Estados Unidos debido al asesinato de George Floyd, por un policía blanco.

La Unión Estadounidense de Libertades Civiles (ACLU, por sus siglas en inglés) aplaudió la acción de Amazon, pero exigió a la administración de Joe Biden poner un alto definitivo al uso de reconocimiento facial por las agencias del gobierno, independientemente de la empresa que la venda.

El problema con esta tecnología es que varios estudios han comprobado que los algoritmos promueven la vigilancia masiva contra comunidades negras y latinos. De hecho, ya se han registrado varios arrestos falsos e injustos de hombres negros.

Debido al sesgo racial, al menos siete estados han promulgado restricciones que limitan el uso de la tecnología por parte de los departamentos de policía. Microsoft e IBM también detuvieron las ventas de su software.

Los legisladores estadounidenses siguen debatiendo sobre cómo establecer reglas para garantizar un uso ético por las fuerzas del orden.

En 2020, la ciudad de Minneapolis, en Estados Unidos, fue el epicentro de protestas masivas que originaron el movimiento Black Lives Matter, luego de que uno de sus oficiales de policía mató al ciudadano afroamericano George Floyd.

Con este antecedente, el Ayuntamiento de Minneapolis votó unánimemente este viernes 12 de febrero para prohibir el uso de software de reconocimiento facial por parte de su Departamento de Policía y otras agencias de la ciudad.

Te recomendamos: Amnistía Internacional pide prohibir reconocimiento facial en Nueva York

Varias investigaciones han descubierto que este tipo de tecnología tiene problemas y sesgos para detectar correctamente a personas por su edad, raza, etnia e incluso género.

Los estudios demuestran que las personas negras y latinas han sido las más discriminadas por dichos algoritmos.

La orden prohíbe a los empleados del gobierno de la ciudad adquirir o usar sistemas externos de reconocimiento facial, como el de la controvertida startup Clearview AI, que también ha sido usado por el Departamento de Policía de Minneapolis y por otras agencias estadounidenses, como el Servicio de Inmigración y Control de Aduanas y el Departamento de Seguridad Nacional.

Otras ciudades como Portland, Oregón, Boston y Alameda en California, también han comenzado a prohibir esta tecnología en sus agencias policiales, en menor y mayor medida, gracias a la creciente presión de grupos defensores de la privacidad que están preocupados por que la vigilancia masiva del gobierno pueda agudizar la desigualdad y prejuicios raciales existentes en la justicia penal.

Las compañías de Internet posiblemente sean las que más información personal de usuarios posean, por lo cual, en caso de una investigación criminal, éstas deben dar información a la policía.

En agosto, la policía arrestó a Michael Williams por presuntamente prender fuego al automóvil de un testigo en Florida. Los investigadores vincularon a Williams con el incendio provocado, además de la manipulación de testigos, luego de enviar una orden de registro a Google solicitando información sobre “usuarios que habían buscado la dirección de la residencia cerca del tiempo del incendio”.

Los documentos judiciales mostraron que Google proporcionó las direcciones IP de las personas que buscaron la dirección de la víctima del incendio provocado, las cuales los investigadores vincularon a un número de teléfono perteneciente a Williams.

La orden judicial enviada a Google está sellada, pero el informe proporciona otro ejemplo de una tendencia creciente de solicitudes de datos al gigante de los motores de búsqueda en la que los investigadores exigen datos sobre un grupo grande de usuarios, en lugar de una solicitud específica sobre un solo sospechoso.

“Esta ‘orden de palabra clave’ evade los controles de la Cuarta Enmienda sobre la vigilancia policial”, sostuvo Albert Fox Cahn, director Ejecutivo del Proyecto de Supervisión de Tecnología de Vigilancia. “Cuando un tribunal autoriza un volcado de datos de cada persona que buscó un término o dirección específicos, es probable que sea inconstitucional”, agregó.

Google recibió 15 veces más solicitudes de órdenes de geolocalización en 2018 en comparación con 2017, y cinco veces más en 2019 que en 2018. El aumento en las solicitudes inversas de la policía ha preocupado al personal de Google, según los correos electrónicos internos.

Las garantías de palabras clave son similares a las garantías de geofence (geovalla/perímetro virtual), en las que la policía solicita a Google datos sobre todos los dispositivos conectados a un área y momentos específicos.

Las órdenes de registro inverso, así como las órdenes de geofence, están siendo impugnadas en todo Estados Unidos por violar los derechos civiles. Los legisladores de Nueva York propusieron una legislación para hacer que los registros sean ilegales, mientras que en Illinois, un juez federal encontró que la práctica violaba la cuarta enmienda.

Por lo general, se necesita una causa probable para las órdenes de registro, que están asociadas con un sospechoso o una dirección. Las demandas de información se adaptan estrictamente a un individuo específico, por lo que las garantías de palabras clave van en contra de ese concepto al ceder datos sobre un gran grupo de personas asociadas con la búsqueda de ciertas frases.

Debido a cómo funcionan las garantías de palabras clave, existe la preocupación de que las actividades en línea de personas inocentes terminen en manos de las autoridades sin razón. Esto ha traído el arresto de personas sólo por estar (y buscar) en el lugar y momentos equivocados ante estas órdenes de geolocalización.