Facebook puso en riesgo la seguridad de sus moderadores de contenidos tras desvelar sin querer detalles personales a usuarios con supuestos vínculos terroristas, según ha podido saber the Guardian. El error en seguridad afectó a más de 1.000 trabajadores de 22 departamentos de Facebook que utilizaban el software de la compañía para revisar y eliminar contenido inapropiado de la plataforma, entre lo que se incluye contenido sexual, discursos que promueven el odio o propaganda terrorista.
Un fallo en el software, descubierto el año pasado, hizo que de manera automática apareciesen los perfiles personales de los moderadores de contenidos como notificaciones en el registro de actividad de los grupos de Facebook cuyos administradores habían sido eliminados de la plataforma por violar los términos del servicio. El resto de administradores de esos grupos pudieron ver los detalles personales de los moderadores.
De los 1.000 trabajadores afectados, unos 40 trabajaban en la unidad contra terrorismo en el cuartel general de Facebook en Europa, ubicado en Dublín. Seis de ellos fueron calificados como víctimas de “gran prioridad” después de que Facebook llegase a la conclusión de que sus perfiles personales podían haber sido vistos por posibles terroristas.
The Guardian habló con uno de ellos, que quiso ocultar su nombre para salvaguardar su seguridad y la de su familia. El ciudadano irlandés nacido en Irak, que tiene poco más de 20 años, huyó de Irlanda y se escondió después de descubrir que siete personas vinculadas a un grupo terrorista de Facebook que él había expulsado –grupo con base en Egipto que apoya a Hamás y que, según cuenta, tenía miembros que simpatizaban con ISIS– habían visto su perfil.
Facebook confirmó la brecha de seguridad en un comunicado y dijo que se habían hecho cambios técnicos para “mejorar la detección y prevención de este tipo de problemas”.
“Nos importa muchísimo mantener a salvo a todos los que trabajan para Facebook”, dijo un portavoz. “Tan pronto como supimos lo que estaba sucediendo, lo arreglamos y comenzamos una minuciosa investigación para averiguar lo máximo posible sobre lo que pasó”.
El moderador que tuvo que esconderse era parte de los cientos de analistas de la subcontrata Cpl Recruitment. Estos analistas suelen ser empleados con bajos salarios y se encargan de vigilar los contenidos de Facebook que violan las normativas.
Por miedo a represalias, el moderador (que llegó a Irlanda como solicitante de asilo cuando era un niño), dejó su trabajo y se fue al este de Europa durante cinco meses. “Empezaba a ser muy peligroso quedarse en Dublín”, dice, explicando que su familia ya había experimentado el terrible dolor del terrorismo. Su padre fue raptado y apaleado, y su tío fue ejecutado en Irak. “La única razón por la que estábamos en Irlanda era para escapar del terrorismo y las amenazas”.
El moderador afirma que otros dentro del grupo reducido de los seis trabajadores de alto riesgo recibieron visitas en sus perfiles por cuentas con vínculos con ISIS, Hizbullah y el Partido de los Trabajadores de Kurdistán (PKK).
El fallo en el software duró dos semanas
“Cuando vienes de una zona de guerra y tienes gente como esta que sabe tu apellido, sabes que te pueden asesinar”, explica. “El castigo de ISIS por trabajar en contraterrorismo es la decapitación. Solo bastaría con que se lo dijeran a algún radical de aquí”, añade.
Los moderadores de Facebook como él sospecharon que había un problema cuando empezaron a recibir solicitudes de amistad de gente afiliada a las organizaciones terroristas a las que estaban vigilando.
El fallo en el software no se arregló hasta dos semanas después, el 16 de noviembre de 2016. Para entonces, el problema llevaba activo un mes. Sin embargo, el fallo también estaba mostrando retroactivamente los perfiles personales de los moderadores que habían censurado cuentas desde agosto de 2016.
Facebook ofreció instalar un sistema de alarmas en los hogares y proporcionó transporte hacia y desde el trabajo para aquellos incluidos en el grupo de alto riesgo. La compañía también ofreció asesoramiento a través del programa de asistencia al empleado de Facebook, además del asesoramiento ofrecido por el contratista, Cpl.
El moderador que huyó de Irlanda estaba insatisfecho con las garantías de seguridad que recibió de Facebook. En un correo al jefe de investigaciones globales de la empresa, Craig D’Souza, escribió que el grupo de seis de alto riesgo había pasado semanas “en un estado de pánico y emergencia” y que Facebook tenía que hacer más para “abordar nuestras urgentes preocupaciones por nuestra seguridad y la de nuestras familias”.
El trabajador cuenta a the Guardian que los cinco meses que pasó en Europa del este fueron como un “exilio”. Mantuvo un perfil bajo y utilizó sus ahorros para vivir. Allí pasó el tiempo manteniéndose en forma y trabajando con su abogado y la policía de Dublín, que controló a su familia mientras él no estaba. Volvió a Irlanda el mes pasado tras quedarse sin dinero, aunque sigue viviendo con miedo.
“No tengo trabajo, tengo ansiedad y utilizo antidepresivos”, cuenta. “No puedo ir a ningún lado sin mirar atrás”, añade. Este mes ha presentado una denuncia contra Facebook y Cpl de la mano del organismo público irlandés Injuries Board. El denunciante busca una indemnización por el daño psicológico que le ha generado la filtración.
Cpl no ha hecho comentarios sobre el asunto. La declaración proporcionada por Facebook afirma que su investigación busca determinar “exactamente qué nombres se pudieron ver y por quién, así como una evaluación del riesgo de la persona afectada”.
El gigante de redes sociales resta importancia a la amenaza planteada a los moderadores, pero asegura que ha contactado individualmente con cada uno de ellos para “para ofrecer apoyo, responder a sus preguntas y tomar importantes medidas para garantizar su seguridad”.
“Nuestra investigación ha concluido que solo una pequeña parte de los nombres quedó probablemente al descubierto y nunca hemos tenido pruebas de amenazas a la gente afectada o sus familias como resultado de este asunto”, señaló el portavoz.
Traducido por Cristina Armunia y Javier Biosca