Cientos de tecnólogos alertan de que la UE plantea una “vigilancia y control sin precedentes” en la ley de abuso infantil

La lucha contra el abuso infantil online se ha convertido en uno de los más enconados debates en la recta final de esta legislatura europea. De un lado la comisaria de Interior, Ylva Johansson, partidaria de establecer mayores medidas para que las plataformas puedan detectar a los usuarios que compartan estos contenidos, apoyada por una parte de los 27 y asociaciones de víctimas de los abusos. Del otro, científicos y tecnólogos que alertan de que lo que Bruselas propone es establecer “una herramienta de vigilancia masiva”.

La medida planteada inicialmente por Johansson era un algoritmo que fuera capaz de analizar todos los mensajes enviados por los usuarios a través de apps de mensajería y redes sociales. En octubre el Parlamento Europeo la rechazó al entender que “no se puede escanear de manera general la red”.

La comisaria sueca presentó en marzo un nuevo texto a los negociadores del Parlamento y el Consejo Europeos. Fue respaldada por más de medio millón de firmas, recogidas por las asociaciones de víctimas que piden a Bruselas que incremente las medidas de control digital. La propuesta ha vuelto a provocar la queja de cientos de investigadores especializados en tecnología y derechos humanos que, como en 2023, alertan de que las nuevas medidas suponen los mismos peligros que las planteadas anteriormente.

“En lugar de iniciar un diálogo con expertos académicos y analizar los datos disponibles sobre tecnologías de detección y su supuesta eficacia, la propuesta crea capacidades sin precedentes para la vigilancia y el control de los usuarios de Internet. Esto socava el futuro digital seguro para nuestra sociedad y puede tener enormes consecuencias para los procesos democráticos en Europa y más allá”, advierten más de 310 profesores y expertos en una misiva abierta enviada a los eurodiputados y al Consejo Europeo.

Nuevas dudas sobre el cifrado de mensajes

El nuevo texto incluye algunas modificaciones respecto al escaneo general de mensajes que planteó al principio Johansson, destinadas a superar el “no” del Parlamento. La nueva propuesta busca implementar medidas de detección más específicas, con el objetivo de generar órdenes de detección más focalizadas.

En vez de un algoritmo que escanee todos los mensajes, Bruselas plantea ahora que este actúe solo en casos donde las plataformas detecten señales de alerta. Por tanto, serían estas las que tendrían que identificar patrones de comportamiento sospechosos en los usuarios, como ciertos tipos de interacciones que pueden relacionarse con casos de grooming (el engaño a niños para sonsacarles fotos o vídeos íntimos en redes sociales con los que chantajearles) o intercambio de material de abuso infantil.

Sería contra estos usuarios identificados con actividades relacionadas con el abuso infantil a los que se escanearía más profundamente. Johansson explica que este proceso no implica el escaneo general y reducirá los falsos positivos. Los científicos firmantes de la carta no están de acuerdo.

“Estos cambios no abordan las principales preocupaciones planteadas en nuestra carta abierta de julio de 2023”, dicen en la nueva misiva. Explican que el problema de fondo es el mismo: “los fallos inevitables de las técnicas de detección y el debilitamiento significativo de la protección que es inherente a la adición de capacidades de detección a las comunicaciones cifradas de extremo a extremo”.

Es decir, los más de 300 expertos técnicos firmantes creen que Bruselas está volviendo a plantear el debilitamiento del cifrado de los mensajes, la principal medida de seguridad que impide la interceptación de las comunicaciones en Internet. Una medida a la que la Eurocámara ya dijo “no” en octubre de la que dicen que “tiene consecuencias catastróficas”.

Y enumeran los motivos: “Establece un precedente para filtrar Internet y evita que las personas utilicen algunas de las pocas herramientas disponibles para proteger su derecho a una vida privada en el espacio digital; tendrá un efecto intimidatorio, especialmente en los adolescentes que dependen mucho de los servicios en línea para sus interacciones. Tendrá un impacto en cómo se utilizan los servicios digitales en todo el mundo y es probable que afecte negativamente a las democracias en todo el mundo”.

“Estas consecuencias provienen de la mera existencia de capacidades de detección y, por lo tanto, no pueden abordarse ni reduciendo el alcance de la detección en términos de aplicaciones o usuarios objetivo: una vez que existen, todos los usuarios están en peligro”, añaden.

Control de la Red

La nueva ley europea contra el abuso infantil no representa la primera vez que Bruselas propone el filtrado de Internet para detectar contenido irregular. A finales de la legislatura anterior la UE incluyó estas mismas tecnologías en la nueva regulación de copyright, destinadas a impedir que los usuarios suban a la red contenidos protegidos sin permiso.

La medida también recibió una fuerte contestación por parte de los tecnólogos. Sin embargo, terminó saliendo adelante y esas tecnologías de filtrado son ahora la norma del Internet europeo.

La nueva propuesta de la UE para filtrar Internet a pesar del “no” inicial de la Eurocámara ha despertado recelos a nivel internacional. “Parece que un número creciente de políticos ya no están convencidos de que la UE deba defender los derechos de privacidad de los usuarios”, explica Christoph Schmon, jefe de políticas internacionales de la Electronic Frontier Foundation (EFF), una de las organizaciones de derechos digitales más importantes del mundo.

“Defender libertades civiles como la libertad de expresión y la privacidad de los usuarios en la próxima legislatura será tanto el mayor reto como la mayor oportunidad para la EFF y otros grupos de la sociedad civil”, expone en una conversación con elDiario.es sobre las próximas elecciones europeas que se publicará en la próxima revista para socios. “Es crucial que sigamos de cerca estos acontecimientos, asegurándonos de que los derechos de los usuarios y la protección de los grupos marginados sigan siendo una prioridad”, avisa.