- Estem assistint al naixement d'un nou tipus d'armes, armes formades per cadenes de sistemes de doble ús. El problema és la dificultat d'anàlisi i control, perquè en aquest joc del dòmino militar, totes les peces són banals. No és fàcil controlar el comerç d'artefactes de doble ús. Però quan algú connecta les peces, ens trobem directament en un nou escenari amb màquines que espien, filtren, proposen qui cal matar, i finalment maten.
Gràcies als documents fets públics per Edward Snowden, la revista independent The Intercept ha donat a conèixer el programa Skynet, de la NSA. L’Skynet és una eina per perseguir i eliminar terroristes, segons explicava fa poc en Bru Rovira. Treballa a partir de les dades de les companyies de telefonia mòbil, i la seva capacitat per classificar i combinar les dades rebudes és extraordinària. Per exemple, analitzant la població del Pakistan, on viuen 188 milions d’habitants, Skynet és capaç d’assenyalar el 50% de terroristes actius. I dins d’aquest 50% només es comet un mínim error del 0’008%. Tot plegat molt net i polit, encara que aquest “error del 0’008%” siguin persones amb nom i cognom que podrien ser confoses amb terroristes i amb perill de ser eliminades, com és el cas del periodista Ahmad Muaffaq Zaidan. Però ens diuen que no cal patir, perquè aquests danys col·laterals i aquestes persones són insignificants. L'objectiu del programa Skynet de la NSA és simplement el d'assenyalar presumptes terroristes per convertir-los en objectius a assassinar amb la tècnica ben senzilla de les execucions sumàries fora de la llei.
No tenim cap informació oficial sobre les víctimes col·laterals del programa Skynet, ja que la guerra dels drons no informa dels seus combats, diu en Bru Rovira. Però hi ha fonts independents que asseguren que el nombre de persones executades per drons els darrers anys ha estat d'entre 2.500 i 4.000. Són execucions asèptiques, realitzades per operadors que van al treball en cotxe, aparquen tranquil·lament i tenen una relació amb la violència que podríem equiparar a la d'un videojoc, com indica l'Enric Luján. El conflicte deixa de ser una experiència traumàtica per convertir-se en una activitat quasi lúdica, comenta l’Enric.
Estem assistint al naixement d'un nou tipus d'armes, armes formades per cadenes de sistemes de doble ús. El problema és la dificultat d'anàlisi i control, perquè en aquest joc del dòmino militar, totes les peces són banals. No és fàcil controlar el comerç d'artefactes de doble ús. Però quan algú connecta les peces, ens trobem directament en un nou escenari amb màquines que espien, filtren, proposen qui cal matar, i finalment maten, com veiem en els documents que ha fet públic The Intercept.
Aquestes noves armes, aquestes cadenes de sistemes de doble ús, civil i militar, consten habitualment d'una multiplicitat de sensors, de sistemes de filtrat i correlació, i de sistemes d'actuació individualitzada. Parlem-ne una mica.
Estem envoltats de sensors. És fàcil parlar de càmeres i sistemes de vigilància, però nosaltres mateixos contribuïm a la nostra sensorització quan utilitzem els mòbils i les xarxes socials. Les empreses de telecomunicacions i les administracions estan constantment emmagatzemant informació sobre nosaltres: vídeos, imatges, missatges i converses, la nostra localització i moltes més coses. En molts casos es tracta d'informació privada, que hauríem de poder controlar per garantir que ningú en fa un ús més enllà del que permetem. Ara bé, els sensors, càmeres i mòbils són objectes de doble ús. El fet de saber on som ens ajuda quan ens hem perdut, quan volem planificar recorreguts i quan hem de classificar les nostres fotos, per exemple. Els sistemes de vigilància de les botigues i supermercats són dissuasius i eviten furts. Però les empreses de telecomunicacions guarden la nostra localització al llarg del temps, i poden fer deduccions a partir d'informacions tan senzilles com el nombre d'hores que deixem el nostre mòbil quiet a determinats llocs. Perquè amb aquestes metadades i fins i tot sense utilitzar la informació que estem comunicant, poden saber moltes coses de nosaltres. Les metadades inclouen el nombre de missatges que enviem a una altra persona, els moments en què ho fem, si fem trucades curtes o llargues, tot menys el contingut del que estem comunicant. Metadades són també les botigues i restaurants que visitem, les pàgines web que mirem, els llocs on anem i els llocs on dormim. No cal guardar les nostres converses privades per saber el que fem i el que ens agrada.
Un altre element que ha aparegut darrerament en escena són els sistemes d'aprenentatge, filtrat i correlació. Podríem dir que són eines que ens ofereix la informàtica (i en particular l'anomenada intel·ligència artificial) per entendre les dades i per ajudar-nos en la presa de decisions. Els algorismes de filtrat ens ajuden a cercar agulles en els pallers d'informació de les immenses bases de dades que tenim i a descobrir el que és més rellevant. En molts casos, són algorismes que van aprenent mentre s'auto-perfeccionen. Els sociòlegs utilitzen l'anàlisi de components principals, per exemple, per entendre el comportament dels grups humans i per filtrar i entendre les moltes dades de què disposem, mentre que els sistemes d'aprenentatge automàtic ens poden permetre identificar melodies que escoltem i fins i tot millorar la composició quan volem fer un dibuix. Però aquestes tècniques tornen a tenir un possible doble ús i de fet s'utilitzen a Skynet amb finalitats contràries a l'estat de dret. Tenim un greu problema de manca de regulació a nivell global. Perquè, com diu l'Evgeny Morozov, les empreses exploten les dades que nosaltres generem, les nostres dades, per a fer diners amb elles, i els governs les analitzen per saber el màxim de nosaltres. Morozov creu que cal oposar-se a que el paradigma de la propietat privada s'estengui a les dades perquè la informació ha d'estar sota control públic, que, per cert i com indica, no vol dir control de l'Estat sinó dels ciutadans.
Els sistemes d'actuació individualitzada, drons, no necessiten gaire presentació. Podríem dir que són una evolució dels avions i helicòpters teledirigits. Fa tres o quatre anys no en sabíem res, ara en trobem a moltes botigues i d'aquí uns anys, el cel n'estarà ple. Normalment tenen diversos motors elèctrics que accionen les hèlixs (és força habitual que en tinguin quatre), unes bateries, un sistema de control de vol, un sistema de telecomunicacions per rebre instruccions i enviar informació, i sistemes específics segons la funció que han de desenvolupar: càmera de fotos o vídeo, sistemes d'ajut a les persones o sistemes d'atac. Els avenços dels darrers anys que els han fet tan populars han estat deguts a la millora en l'eficiència de les bateries i a la sofisticació dels algorismes de control de vol, que fan que aquests objectes voladors siguin ara molt estables. Tenim drons medicalitzats amb desfibril·ladors com el de la foto (veure detalls en aquesta pàgina web) i existeixen drons militars que poden disparar o portar càrregues explosives. Un cop més, els drons són artefactes complexes de doble ús.
Sabem que les armes són instruments creats o utilitzats per a ferir o matar éssers vius, així com també per infligir danys o causar la destrucció material d'estructures o serveis. En general, les armes es classifiquen en armes convencionals i en armes no convencionals o de destrucció massiva. Però de fet, i malgrat l'ambigüitat del concepte, cal afegir-hi el material de doble ús, que inclou productes i tecnologia, inclòs el software, que poden ser utilitzats tant amb objectius civils com militars. Fa temps que se'n parla, i el mateix acord de Wassenaar de 1996 tenia com objectiu el control tant de les exportacions d'armes convencionals como les dels productes i tecnologia de doble ús. El problema és saber què és material de doble ús i què no ho és. És molt difícil preparar llistes consensuades d'allò que pot ser considerat de doble ús, tot i que algunes accions sí que s'estan portant a terme. Per exemple, fa un any, el desembre de 2014, Amnistía Internacional i altres ONG van fer una crida als 41 Estats signants de l'acord de Wassenaar per a que reduïssin les exportacions de tecnologia de vigilància a països amb greus violacions dels drets humans. Serà complicat, perquè en molts casos les actuacions són impossibles. No té cap sentit lluitar contra les exportacions de drons medicalitzats, però és clar que aquests drons poden ser considerats sistemes de doble ús, perquè és ben fàcil convertir-los en armes mortals que deixin caure càrregues explosives, per exemple.
Té raó l'Enric Luján quan diu que els drons són armes especialment pensades per a ser socialment invisibles, amb assassinats selectius sense cobertura mediàtica i sense protagonistes identificats perquè es renuncia conscientment a l'exposició mediàtica de la violència, i també quan parla de la “guerra quirúrgica” suposadament calculada en base a algorismes. Però el que cal tenir sempre present és que la programació i l'ús d'aquests sistemes de doble ús implica responsabilitat de persones concretes. Cal qüestionar el suposat caràcter demoníac dels sistemes tecnològics. No hem d'oblidar que els únics responsables són les persones que implementen els mecanismes que exerceixen la violència, que en molts casos és violència política en nom del poder.
Crec que les cadenes de sistemes de doble ús obligaran a canviar en part el marc d'anàlisi de les armes. Essencialment no són armes, només s´hi converteixen en base al seu ús. No són més que el resultat de connectar dispositius i ginys civils de doble tall. Alguns sistemes poden ser a l'abast de quasi tothom, mentre que d'altres, com els algorismes de filtrat de grans quantitats de dades, només són a l'abast d'organismes amb extraordinari poder geopolític que acaben tenint sistemes asèptics, opacs i d'acció virtual a distància. Però els seus components, de doble ús, difícilment podran quedar subjectes a regulacions comercials. Caldrà atacar el seu ús específic, l'especialització que se'n fa en cada cas concret, més que prohibir els propis dispositius. Perquè la conjunció dels sensors amb els sistemes d'aprenentatge, detecció de característiques, filtrat i correlació i amb els drons, pot salvar vides i rescatar gent perduda a la muntanya o pot matar gent seleccionada automàticament per màquines i algorismes.
És sorprenent el poc que se'n parla, d'aquests sistemes automàtics de matar. És increïble la impunitat que tenen els assassinats extrajudicials després dels atemptats del 2001, i l'absència de protestes. Es va lluitar per l'abolició de la pena de mort, i ara és molt pitjor, perquè es mata sense ni tan sols judici, mentre es va destruint el nostre feble edifici democràtic. Cal denunciar més que mai els responsables i cal lluitar en contra de la seva impunitat. I, sobretot, cal reivindicar la democràcia, els drets humans i l'estat de dret.
A més, i com diu en Luis Miguel Ariza citant Winston Smith, protagonista de “1984” de George Orwell, cal també lluitar aferrissadament per protegir la nostra privacitat. En aquests temps en els que tothom demana més transparència, Ariza diu que cal recordar Georg Simmel quan deia que el secret és la conquesta més gran de la humanitat.
Per cert, en Bru Rovira acaba dient que sort en tenim dels “traidors” com Snowden, perquè “ens ofereixen una classificació dels cretins que ens permet discernir entre el que diuen els titelles en el teatret de la política i el que maquinen els titellaires des de les clavegueres del poder”.