Cuando terminaron las protestas por el asesinato de Michael Brown en Ferguson (Misuri), las fuerzas policiales y los políticos de todo el país dieron con una solución que supuestamente sería una panacea para terminar con la brutalidad policial y el racismo: poner cámaras de vídeo en los uniformes de los agentes.
Muchos alabaron la propuesta como un triunfo para los que exigen responsabilidades a la policía, pero también hubo unas pocas voces de protesta. Una de ellas fue la de Malkia Cyril, directora ejecutiva del Centro para la Justicia en los Medios de Comunicación y dirigente del movimiento Black Lives Matter, que advirtió desde el principio y en repetidas ocasiones de que las cámaras podrían convertirse en herramientas de vigilancia contra los afroamericanos. “Las cámaras corporales no están apuntando a la policía, están apuntando a la comunidad en la que esa policía trabaja, a gente como yo”, dijo.
El martes se entendió un poco mejor el alcance y la escala de esa vigilancia. Ese día, la Unión Estadounidense por las Libertades Civiles (ACLU, por sus siglas en inglés) publicó una colección de documentos públicos en los que se detalla la venta de Amazon Rekognition, el software de reconocimiento facial de Amazon, a las fuerzas de seguridad. En sus herramientas de promoción, Amazon anunciaba precisamente el uso que Cyril temía: Rekognition se puede usar junto con las cámaras de la policía en tiempo real.
Para Cyril, “es una receta para el autoritarismo y para el desastre”: “Amazon no debería estar cerca de este tema, y si cuenta en algo lo que nosotros digamos al respecto, no va a estar”.
La ACLU y otras 40 organizaciones también publicaron una carta abierta al presidente de Amazon, Jeff Bezos, en la que le piden que deje de vender al gobierno Rekognition y sus “peligrosos poderes de vigilancia”. “Rekognition es un poderoso sistema de vigilancia que está al alcance de la mano para violar los derechos y atacar a las comunidades negras”, escribieron. “Con Rekognition, Amazon pone esos peligrosos poderes de vigilancia directamente en manos del gobierno”.
En un comunicado enviado por correo electrónico, Amazon dijo que Rekognition tiene “muchas aplicaciones útiles en el mundo real”, como la localización de niños perdidos en parques de atracciones. También, que la empresa “requiere que los clientes cumplan con la ley y sean responsables cuando utilizan” sus productos de software. “Nuestra calidad de vida sería hoy mucho peor si hubiéramos prohibido las tecnologías nuevas porque algunas personas podían decidir abusar de ellas”, decía el comunicado. “¿Creen que los consumidores no deberían poder comprar un ordenador porque se puede usar para fines ilegales?”.
La carta de los defensores de las libertades civiles no pide que el Gobierno prohíba la tecnología de Amazon, solo que Amazon se abstenga de venderla al Gobierno.
Aunque Amazon es famosa por su tienda online, la compañía también tiene un gigantesco negocio de computación en la nube. En noviembre de 2016 lanzó Amazon Rekognition, su sencillo servicio de reconocimiento facial para clientes de Amazon Web Services. Algunos de los usos que la empresa anunciaba para el producto iban dirigidos a satisfacer la curiosidad de los mirones, como el de detectar automáticamente a los personajes célebres en la boda del príncipe Harry y Meghan Markle, pero muchos de las otras posibles aplicaciones parecían específicamente pensadas para las fuerzas del orden.
Según los documentos de la ACLU, Amazon trabajó con la ciudad de Orlando (Florida) y con el departamento del sheriff en el condado de Washington (Oregon) para implementar la tecnología.
En una conferencia en Seúl, Ranju Das (el hombre que figura como director de Rekognition en su perfil de LinkedIn) se jactó de las capacidades del panóptico creado junto a la ciudad de Orlando. “Tienen cámaras por toda la ciudad”, dijo. “Analizamos el vídeo en tiempo real y lo contrastamos con la colección de caras que tienen” [en sus registros].
La policía de Orlando dijo a la emisora de radio estadounidense NPR que estaban usando la tecnología como parte de un “programa piloto” y que respetaban las leyes vigentes.
Pero aunque las capacidades de la tecnología sean impresionantes, los posibles perjuicios son catastróficos, según Cyril. “La tecnología es una herramienta; colocar una herramienta en un contexto de racismo y brutalidad extremos simplemente va a generar más racismo y brutalidad extremos”, dijo sobre el uso de cámaras por parte de la policía. “Si en ese contexto se suman el reconocimiento facial y los poderes de supercomputación de Amazon, se está sobrealimentando la discriminación que ya existía hasta un nivel sin precedentes. No sólo aumenta la velocidad a la que se produce la discriminación, también crece la escala a la que puede llegar”.
Según los documentos, hubo al menos varios empleados públicos que expresaron su preocupación por la tecnología. “La ACLU podría considerar esto como un contubernio entre el Gobierno y las empresas de Big Data”, escribió en un correo electrónico un empleado del condado de Washington. En el blog donde dan cuenta de sus hallazgos, los miembros de ACLU Matt Cagle y Nicole A. Ozer le respondieron: “La predicción de ese empleado era acertada”.
Traducido por Francisco de Zárate