Carme Artigas, secretaria de Estado de Digitalización: “Las apps de rastreo de contactos son una oportunidad de innovación sin precedentes en Europa”

Carme Artigas (Vilassar de Mar, 1968) fue nombrada secretaria de Estado de Digitalización e Inteligencia Artificial el 14 de enero de 2020, accedió al cargo el 16 de febrero y el 14 de marzo vio cómo se declaraba el estado de alarma y España empezaba una cuarentena que terminaría durando 98 días con su equipo a medio estructurar. La creación de su departamento (que se desgajó, junto a la Secretaría de Estado de Telecomunicaciones, de la extinta Avance Digital) tenía como misión impulsar la digitalización de España, pero nadie esperaba que su primera prueba sería ver como un virus mandaba a teletrabajar a todos los españoles que pudiesen hacerlo y obligaba a pasar la burocracia a Internet. “Hemos pasado de 3.000 trámites diarios a 90.000. Se pone en valor cómo ha resistido la red de Telecomunicaciones en España y que no se nos ha caído Netflix, pero no que no se haya caído la administración digital ni la del Estado”, afirma.

La primera gran apuesta que ha liderado su Secretaría de Estado ha sido traer a España la tecnología de rastreo de contagios de coronavirus a través del móvil, basada en bluetooth y que aspira a ser un mecanismo de alerta temprana. Un sistema que países como Alemania, Francia, Italia, Reino Unido, Suiza, Austria o Noruega ya han probado, aunque la mitad de ellos han sufrido notables reveses que les han obligado a reenfocar sus estrategias. Artigas defiende en entrevista con eldiario.es que la estrategia de España ha sido “esperar a un escenario de salida de la pandemia” para empezar a testar su app, puesto que adelantarlo “podía generar un caos en un sistema sanitario ya muy tensionado”.

Alemania, Francia, Italia, Austria, Suiza… aunque todavía es una tecnología a prueba, muchos países han apurado los plazos para tener lista su app de rastreo para la temporada de verano. ¿Por qué España no, siendo uno de los principales destinos turísticos internacionales?

En primer lugar es que el nivel de desarrollo de la tecnología es el mismo para todos los países. Realmente el punto de inflexión lo marca el momento en que Apple y Google ponen a su disposición la API [Interfaz de Programación de Aplicaciones, por sus siglas en castellano], el 20 de mayo. Hasta ese momento todos los países desarrollan los mismos avances a nivel de protocolo. Algunos decidieron lanzarlo antes incluso de que Apple y Google activaran su tecnología, esto pasó por ejemplo en el caso de Austria, que después ha tenido que echarse atrás y volver a pedir a sus ciudadanos que descarguen una nueva app. Nosotros no optamos por ese modelo, entre otras cosas porque sacarlo antes suponía lanzarlo en España en plena pandemia.

La pandemia no estaba controlada y entendíamos que el nivel de poca madurez de esta tecnología podía generar un caos en un sistema sanitario ya muy tensionado. Nuestra estrategia fue esperar primero a la maduración tecnológica y después esperar a un escenario de salida de la pandemia.

El plan inicial es tener una app lista para septiembre u octubre. ¿Hay alguna posibilidad de que España recomiende el uso del sistema a nivel nacional antes, en julio o agosto?

En julio es complicado, porque en la primera semana terminamos el piloto y en caso de que todo fuera muy, muy, muy bien y que no haya ninguna duda y que lo que hemos hecho para el piloto sea una API que se podría lanzar pronto, ponle como mínimo un mes más.

De todas formas hay una cosa a tener en cuenta: al protocolo europeo descentralizado [las apps de rastreo de contactos han seguido dos modelos: el descentralizado, en el que los datos de los contactos solo se almacenan en el teléfono del usuario; y el centralizado, en el que se guardan en una base de datos central controlada por el Estado] aún le queda un mes o dos de desarrollo. No estamos haciendo una tecnología cualquiera. Es una oportunidad de innovación sin precedentes a nivel europeo, donde están colaborando más de 10 instituciones de primer nivel, que está aquí para quedarse y que puede marcar el futuro del desarrollo de las aplicaciones a nivel mundial y por supuesto a nivel europeo, partiendo de un concepto de privacidad por diseño. Por supuesto, no quedará en esta Secretaría de Estado dejar de lado la posibilidad de hacerlo lo antes posible, pero obviamente tengo que ser prudente y no generar expectativas falsas.

Teniendo en cuenta que la base de la tecnología de rastreo la proporcionan Google y Apple, ¿cuál ha sido exactamente el papel de Indra? ¿Por qué la factura por la parte visible de la app asciende a 330.500 euros?

Los 330.000 euros son con el IVA incluido, por lo que son unos 250.000. Indra es una de las muchas compañías que afortunadamente tenemos en este país, con muchísima capacitación digital y que se han puesto desde el principio de la pandemia a disposición del Gobierno en todo lo que necesitáramos. Han puesto sus capacidades de desarrollo, de personal y ahí puedo contar más de 20 empresas privadas, grandes, pequeñas, medianas y start-ups, que se han puesto a disposición y con las que hemos colaborado en el desarrollo de [la app de autodiagnóstico] Asistencia-Covid, en el chatbot, y que espero que muy pronto les podamos dar el reconocimiento que se merecen porque también son héroes digitales. En el caso de Indra ellos, como otras compañías, pusieron a disposición en su momento, al principio de la cuarentena, soluciones que ellos habían desarrollado pensando en la aplicación de Singapur, la de Corea de Sur... nos dijeron: lo tenemos preparado, ¿lo queréis probar?

Era una solución muy avanzada, en este caso ellos lo habían preparado con geolocalización, que es el motivo por el cual lo descartamos, porque nosotros no queríamos ir por esa vía. Pero el trabajo que habían hecho de análisis, incluso de inteligencia artificial y de algoritmos, es algo que pusieron a disposición del Gobierno de manera gratuita. Cuando nosotros optamos por esta segunda, el rastreo de contactos por bluetooth con la API de Google y Apple, valoramos con ellos si tenían capacidad de ejecución para adaptar esa idea inicial a este nuevo entorno. Ellos nos demostraron que eran capaces de hacerlo y por eso optamos por un contrato de emergencia, porque podían, con la experiencia que ellos previamente habían desarrollado, poner a disposición del Gobierno español estas capacidades.

Obviamente este dinero no paga los meses que ellos llevaban invertidos, sería imposible, ese dinero paga la adaptación de las funcionalidades básicas que va a tener la app a partir de la API de Apple y Google, la adaptación del algoritmo y la ejecución del piloto. Eso requiere tener servidor, tener unas capacidades técnicas, contratar beta-testers [colaboradores que harán el papel de falsos contagiados para probar la app]... es decir, esos 250.000 euros lo incluyen todo, la adaptación de estas funcionalidades, la realización física del piloto con sus validaciones técnicas e incluso una bolsita de horas por si hay que hacer modificaciones posteriores.

Para ponerlo en perspectiva, el desarrollo de la app de Alemania ha costado más de 20 millones de euros y supone un mantenimiento de otros dos millones y medio. Nosotros hemos tenido acceso a la app de Alemania, la compañía privada que la desarrolló la puso a disposición, pero lo evaluamos y apenas ganábamos una semana de tiempo. Además era un desarrollo que no se había hecho en España.

Es cierto que en la parte inicial hay una parte de código abierto que ya existe que estamos reutilizando, pero luego hay una parte privada que es la que va a hacer Indra, que una vez pactado y comprado (porque la propiedad intelectual va a ser del Gobierno español) lo pondremos en código abierto.

Apple y Google anunciaron que lanzarían una API conjunta en la que basar las apps nacionales hace unos dos meses. ¿Por qué se ha usado el procedimiento de urgencia para encargar su desarrollo?

La API de Apple y Google hace solamente un mes que está disponible, desde el 20 de mayo.

Sí, pero aproximadamente un mes antes anunciaron que iban a trabajar conjuntamente en ello y dieron una fecha de cuándo estaría disponible.

Sí, pero un mes antes aún existía un debate en Europa sobre si el protocolo debía ser centralizado o descentralizado, aún no había consenso sobre los parámetros epidemiológicos que debía utilizar la app... en el mundo del desarrollo tecnológico, una innovación de cero como supone esto, que además son tres innovaciones a la vez (la del bluetooth low energy para medir las distancias, la privacidad por diseño, y el tema de la integración de la salud), dos meses no son nada. De hecho es que todavía no ha terminado, estamos trabajando aún en los protocolos.

Evidentemente, cuando ya tenemos claro que tenemos el consenso de Sanidad para impulsar este piloto con todos estos parámetros, se tiene que utilizar forzosamente el sistema de emergencia previsto, que sólo se justifica en base a la alerta sanitaria. Hemos tenido que utilizar el procedimiento de urgencia porque si no estaríamos hablando de seis meses para empezar a utilizar la app, y eso es lo que no nos podemos permitir.

La Agencia Española de Protección de Datos se ha quejado varias veces de que no ha sido informada de los detalles del piloto o los planes del Gobierno para con el sistema de rastreo. ¿Por qué no ha habido una comunicación fluida con esta institución, que es la encargada de vigilar que se cumplen todos los preceptos de privacidad?

La comunicación es fluida. En primer lugar, ellos se ponen en contacto con nosotros cuando oyen el anuncio de la vicepresidenta [Nadia Calviño] de que vamos a hacer un piloto. Entonces ellos, y me parece lo más normal del mundo, dijeron: Oye, que voy a recabar información. Yo no me siento para nada molesta porque la Agencia Española de Protección de Datos pida información, ese es su deber y el mío es dárselo. Entre otras cosas porque a veces ellos pueden tener una visión que no es completa y nosotros sí tenemos todos los datos. Creemos que aquí no hay ningún conflicto. Yo no le puedo pedir a la AEPD, a fecha de hoy, que valoren una app, porque la app no existe.

Lo que les hemos podido dar es la idea de un análisis funcional, que se lo hemos dado cuando ellos lo pidieron. Lo que hemos hecho, además (porque no es lo normal incluir a la AEPD en un proceso de desarrollo e innovación) es invitarlos a formar parte de la gobernanza del propio piloto para que aporten su feedback. Más transparencia imposible.

Por otra parte, también hay que tener en cuenta que nuestra garantía de que este proceso respeta la privacidad es que la Agencia Europea de Protección de Datos determinó hace tres o cuatro meses que el protocolo en el que se basa el rastreo de contactos cumplía 100% la legislación europea. Tampoco medí yo la urgencia de avisarles de nada porque daba por hecho que lo conocían y que estaban informados. ¿Qué no les llamamos tres semanas antes para avisarles de que íbamos a lanzar el piloto? Es que tres semanas antes tampoco lo sabía yo.

Los países que han optado por un modelo centralizado, como Francia o Reino Unido, argumentan que aumenta la capacidad de reacción de las autoridades sanitarias. ¿El Ministerio de Sanidad español prefería una app centralizada? ¿Ha sido ese el motivo del retraso del piloto?

Para nada, la decisión técnica sobre centralizado y descentralizado la tomamos desde la Secretaría de Estado, no la toma Sanidad. En este sentido, nosotros apostamos desde el día uno por el descentralizado porque entendíamos que era más respetuoso con la privacidad. Es verdad que le hicimos la consulta a Sanidad para ver si el modelo centralizado a ellos les aportaba algún valor diferencial, porque en ese caso lo valoraríamos como alternativa.

De todas formas, el país que apuesta primero y más decididamente por el descentralizado es Suiza, ¿por qué? Porque tiene un sistema confederado, que es muy parecido a nuestro sistema autonómico, donde la sanidad está transferida a las comunidades. En cambio, en Reino Unido y Francia, la sanidad está centralizada.

De entrada, el modelo que encajaba más en nuestro sistema de gestión sanitaria es el suizo porque es muy parecido al autonómico. En un país en el que la sanidad está centralizada, como el NHS inglés, sí que tiene más sentido para ellos ir al centralizado por un tema de gestión y modelo operativo.

¿Hay algún plan para extender la app a menores de edad? Por lo que sabemos del virus, los niños pueden ser 'contagiadores silenciosos', pero muchos no tienen móvil. También es complicado gestionar el hecho de que sea un menor quien reciba la notificación de que ha tenido un contacto de riesgo.

El móvil es una de las herramientas que tiene más capilaridad y por eso la ventaja de tener este tipo de sistemas. Es cierto que tendría que ser muy proteccionista si tratáramos datos personales de menores, pero es que la app no recoge ningún dato personal, es una funcionalidad básica. De la misma manera que pueden recibir un SMS, pueden recibir una alerta diciendo que han estado cerca de un contacto de riesgo. La usabilidad es una de las cosas que precisamente queremos probar en este piloto. Estas cosas de las que usted me habla son tremendamente relevantes y nadie ha pensado en estos términos: la gente la ha probado solamente para ver si la tecnología funciona, si es capaz de detectar contactos y si eso es eficiente para detectar positivos. Es lo único que les ha preocupado hasta el día de hoy. Hasta que no hemos llegado nosotros no nos hemos empezado a preocupar por la usabilidad, por la experiencia de usuario y no solo de cómo protegemos a los menores, sino cómo hacemos que determinados colectivos no queden excluidos.

En cualquier caso la tecnología no es una solución única, porque no podemos dejar de hacer rastreo manual, ni de pensar en aquella población que no está digitalizada y no tiene móvil. Por tanto, veremos a partir de la experiencia del piloto, que es justamente de donde tenemos que sacar conclusiones para diseñar una estrategia que no excluya a nadie o que tenga previsto qué haría un niño cuando reciba una alerta de que ha tenido un contacto de riesgo. Eso son cosas que ahora no tenemos respuesta porque lo que queremos es probar e identificar estas cosas durante el piloto.

Aunque el bluetooth es una tecnología muy extendida en los móviles, este sistema de rastreo digital ya supone una barrera de entrada para la gente que no tiene móvil. ¿Quedarán descubiertos colectivos vulnerables, que de por sí ya son los más afectados por la pandemia?

Apostamos porque haya un efecto conjunto para poder reducir todas las brechas generacionales, digitales y de genero. Desde el punto de vista de las herramientas tecnológicas, ya hay en marcha otras herramientas digitales para educar e incluso el rastreo manual, que es lo que están haciendo países como Estados Unidos de manera masiva, o incluso Bélgica. La tecnología es un valor adicional y complementario.

Imagine que tenemos que implantar esta solución en el 100% de la población, podríamos incorporar soluciones como hacen en la India con una especie de token de bluetooth que puede estar en una pulsera, en un pin. Tecnológicamente, encontraríamos solución en el caso de que lo tuviéramos que universalizar, pero no creo que el objetivo sea universalizarlo sino tener claro qué grupos estadísticos está detectando, que la R0 está subiendo y tener más datos para poner en marcha algunos mecanismos sanitarios. La app es un complemento más en la lucha de la pandemia, pero no está solo esta herramienta, no sustituye nada. Complementa un proceso manual que sí ha demostrado que es eficaz.

Mientras ocurre todo esto hay otros temas que ya iban a ser candentes antes de la pandemia. Uno de ellos es la denominada 'tasa Google' para las multinacionales tecnológicas. EEUU se ha levantado de la mesa de negociación y ha amenazado a Europa con aranceles: ¿se avecina una guerra comercial? ¿Teme que el impuesto termine revirtiendo en una subida de precios y costes de los servicios de estas multinacionales?

Es un tema que no corresponde a esta Secretaría de Estado, sino al propio Ministerio de Asuntos Económicos, pero en España la postura siempre ha sido muy clara: estamos hablando de equidad tributaria y de justicia en el mundo de la economía del dato y hay un consenso entre los países de la OCDE que anunciamos esta medida. Es un tema de justicia, no es justo que unas empresas tributen de una manera distinta a otras en función de que su actividad sea digital o no. La postura de España es la que es, lo que se espera es que haya una organización para que la tasa sea la misma en todo los territorios de la OCDE y esta postura es la que vamos a apoyar.

Usted ha defendido en el pasado la autorregulación en la Inteligencia Artificial y su desarrollo basado en la “ética”. Pero en el reconocimiento facial, uno de los sectores más publicitados de la IA, los principales desarrolladores acaban de pedir a los Gobiernos que legislen porque no quieren ser ellos los que decidan en qué ámbitos puede usarse y en cuáles no. ¿Sigue confiando en la autorregulación? los principales desarrolladores acaban de pedir a los Gobiernos que legislen

Esta reacción que ha tenido lugar en Estados Unidos demuestra cómo Europa siempre va un paso por delante en la defensa de los derechos digitales del ciudadano, ya que nosotros contemplamos en el libro blanco de la IA, que salió en febrero, que en el desarrollo de la tecnología de IA habría un debate ético muy profundo sobre sus usos. En la Estrategia Nacional de Inteligencia Artificial, que aún está por salir, también apuntamos en esta dirección. Hay tecnología que no está suficientemente madura para poderla regular y es prudente definir períodos de moratoria, no eliminar la innovación alrededor de la IA, que tiene unas aplicaciones enormes y beneficiosas en el mundo médico y otros muchos.

Creo que ahí está el debate, el debate entre humanismo y tecnología. Muchas veces la innovación tienes que dejar que ocurra, definir cuál tiene riesgos y regular aquello que es nocivo, no regular aquello que es positivo. Ahí también está la línea del Libro Blanco para definir matices de riesgo.

Sobre el reconocimiento facial, su entorno de uso en entornos públicos donde la gente no ha dado su consentimiento expreso conlleva unos riesgos específicos de vulneración de derechos fundamentales. Es una tecnología que está en fase desarrollo inminente, que está claro que a nivel público hay que evitar su uso hasta que se pueda definir un marco normativo mucho más garantista.

¿Ese marco normativo estará basado en la “ética”? Es un concepto sobre el que los juristas expresan dudas y piden que se dirima más claramente de quién es la responsabilidad cuando un algoritmo cometa una injusticia: del desarrollador, de la empresa que lo implementa...

Me ha venido a la cabeza un paralelismo en línea con la pregunta anterior que creo que es útil para entender la diferencia: tras los atentados del maratón de Boston, gracias a que la gente compartió sus fotos de la carrera en su muro de Facebook o permitió que la policía tuviera acceso a ellas, se pudo identificar al terrorista en menos de 24 horas. Esto ocurrió porque la gente decidió compartir su información. Otra cosa muy distinta es que tengas cámaras por la calle vigilando a todo el mundo para ver si es hombre y mujer, sabiendo dónde vive... eso sería un capitalismo de vigilancia. Hay que tener cuidado con hacer un paralelismo de dos cosas distintas. Una cosa es que voluntariamente compartas una información que puede ser útil y otra que estemos en un entorno abierto y vigilado. En el entorno privado tú puedes decidir a quién dejas entrar y quién no.

¿Cómo regulas la ética? El principio básico de diseño tienen que ser las personas y garantizar una serie de derechos fundamentales que, justamente ahora, no está claro cómo definirlos y por eso nosotros hemos puesto en marcha una iniciativa que es abrir ya nuestro trabajo en España sobre la Carta de Derechos Digitales de la Ciudadanía. Yo creo que es el momento de volvernos a hacer las preguntas que nos definen como sociedad. Yo creo que no va a haber un desarrollo equitativo y ecuánime de la IA en todo el mundo. El desarrollo en IA en Estados Unidos es distinto al que quiere tener China y al que quiere tener Europa porque somos sociedades diferentes. Para nosotros igual es más importante preservar la privacidad ante otras cosas.

La clave aquí es “cuáles son los derechos que queremos preservar”. Cuando nos pongamos de acuerdo en eso, nos podremos poner de acuerdo en cuáles son los mecanismos de gobernanza y cuál es la arquitectura legal para hacerlo. En el mundo de desarrollo de los algoritmos, a veces dicen: tenemos que contar cómo el algoritmo está tomando una decisión sobre si me dan un crédito o no. Y yo digo: ahora tampoco lo sabemos, no sabemos cuál es el mecanismo por el cual el departamento de riesgo de un banco me deniega un crédito. Estamos en un mundo en el que lo más sesgado es el ser humano. A veces estamos pretendiendo que la tecnología objetivice cosas que a nivel actual no tenemos objetivadas.

Esta Secretaría de Estado fue creada poco antes de que se declarara el estado de alarma. ¿Cuánto ha alterado los planes el virus? ¿Cuántas iniciativas se van a tener que quedar en el tintero por el cambio de prioridades exigido por la pandemia?

Me nombraron el 14 de enero, juré el cargo el 16 de febrero y un mes después, en una Secretaría de Estado totalmente nueva, que parte de cero, que tiene que generar sus equipos y sus recursos, se declaró la cuarentena. Imagine trabajar por primera vez en equipo en teletrabajo... ha sido un reto de proporciones enormes. Se pone en valor cómo han resistido las redes en España y que no se nos ha caído Netflix y no se pone en valor que no se ha caído la administración digital ni la del Estado. Ha puesto un esfuerzo ingente de muchos funcionarios para adaptarse de la noche a la mañana al teletrabajo. Hemos pasado de 3.000 trámites diarios a 90.000 trámites online. Eso se ha hecho con la gente trabajando en casa.

Nosotros desde el primer mes teníamos claro la líneas específicas de la Secretaría de Estado. ¿Qué ha hecho la pandemia? Lo que ha ocurrido es que hemos tenido que hacer cosas adicionales, que no estaban contempladas, cosas urgentes como desarrollar apps, desarrollar chatbots o preocuparnos por la ciberseguridad y los ataques masivos e indiscriminados que ha habido esta temporada, y cosas como las apps de rastreo de contagios, que no estaban en el centro de nuestra estrategia.

Hemos tenido que hacer cosas adicionales, que para nada impacta el concepto y la estrategia, pero otras se han acelerado, como el programa Acelera Pyme, que era algo que teníamos previsto lanzar en la segunda mitad del año. Igual que el plan Educa Digital, que lo teníamos planeado para final de año, pues ya está puesto en marcha el plan para reducir la brecha digital de 500.000 hogares para asegurarnos de que al inicio del próximo curso escolar ayudamos a resolver un problema que tenemos y que hemos detectado que era crítico durante la pandemia. Como todo, algunas cosas quedan más de fondo de armario y aquellas que teníamos previstas hacer en cuatro años las hemos tenido que hacer en seis semanas.