“El despliegue de sistemas de identificación biométrica a distancia en espacios de acceso público supone el fin del anonimato en esos lugares. Aplicaciones como el reconocimiento facial en tiempo real interfieren con los derechos y libertades fundamentales”, han manifestado este lunes el Supervisor Europeo de Protección de Datos y el Comité Europeo de Protección de Datos. Las dos organizaciones, responsables de vigila el respeto de la privacidad en la UE, han emitido un comunicado en el que solicitan la prohibición preventiva “inmediata” de este tipo de usos de la inteligencia artificial, que ya han sido puestos en práctica en muchos países comunitarios.
Entre los sistemas que deberían quedar fuera de la legalidad por sus “riesgos extremadamente elevados”, las dos instituciones de protección de datos (EDPS y EDPB, por sus siglas en inglés) citan el reconocimiento facial, la forma de andar, las huellas dactilares, el ADN, la voz, las pulsaciones de teclas y otras señales biométricas o de comportamiento “en cualquier contexto”. También piden que se prohíba que la IA utilice ese tipo de parámetros para clasificar personas en función de su género, origen étnico, orientación política o sexual.
La otra alerta del EDPS y del EDPB son los sistemas de reconocimiento de emociones con IA, muy criticados por los científicos por carecer de base empírica y ser “pseudociencia”. Inspirados en el sistema de control social chino, algunos sistemas de vigilancia han implantado este tipo de sistemas para detectar a personas que están “nerviosas” o clasificarlas según su estado de ánimo. En febrero, Renfe canceló la contratación de un desarrollo de este tipo para sus estaciones por la polémica generada tras la salida a la luz del concurso. “El uso de la IA para inferir las emociones de una persona física es muy indeseable y debe prohibirse”, recalcan las dos autoridades de privacidad europeas.
Este posicionamiento va en línea con la postura adoptada por Bruselas en abril, cuando propuso vetar los sistemas de reconocimiento biométrico masivos en calles, parques, edificios y otros lugares públicos. No obstante, exponen que el hecho de que ya estén aplicándose en muchos lugares “exige una aplicación inmediata del enfoque preventivo. Una prohibición general del uso del reconocimiento facial en zonas de acceso público es el punto de partida necesario si queremos preservar nuestras libertades y crear un marco jurídico de la IA centrado en el ser humano”, afirman los responsables del EDPS y del EDPB en su comunicado.
Además, recomiendan a la Comisión Europea que especifique que cualquier sistema de vigilancia y discriminación de personas basado en algoritmos deberá respetar la regulación de privacidad de la UE, que da derecho al ciudadano a saber qué datos personales se captan, durante cuanto tiempo se almacenan y con qué propósitos; así como a disponer de una vía sencilla para oponerse a la recolección y tratamiento de esos datos.
Las alertas de los expertos en el funcionamiento de este tipo de sistemas se acumulan en los últimos meses. En marzo, una carta a la que ya se han adherido más de un centenar de catedráticos, investigadores y profesionales especializados solicitó al Gobierno español que elevara una moratoria en el uso de este tipo de tecnologías “por sus graves deficiencias y riesgos”.