Lo que la publicidad no te cuenta sobre los nuevos “altavoces inteligentes”

Las empresas que practican el denominado capitalismo de la vigilancia, que se nutre del comercio con información personal, tienen un nuevo objetivo. Ya tienen un gran número de datos sobre los gustos y ritmos de las personas gracias a los smartphones, esos dispositivos que son lo primero que miramos al despertarnos y lo último antes de dormirnos (con unas 150 ojeadas diarias de media entre esos dos momentos). Su nueva frontera es saber qué pasa en nuestras casas. Lo han intentado con aspiradoras-rastreadoras y juguetes-espía, pero la oleada definitiva llega ahora.

Recientemente se ha puesto a la venta en España Google Home. Es la avanzadilla: tras él aparecerán otros como Amazon Echo o el HomePod de Apple, que se suman a los de otras marcas más modestas que ya están en el mercado. Su publicidad los vende como “altavoces inteligentes”, pero no llaman la atención por su calidad de sonido. Esa descripción omite una de sus capacidades más importantes, grabar todo lo que ocurre a su alrededor con una sensibilidad muy alta. Son los finos oídos que estas compañías quieren poner en cada vivienda.

Google Home ha demostrado ser capaz de reconocer su comando de activación aunque quien lo pronuncie se encuentre a varios metros del dispositivo y en un entorno lleno de ruido. Las palabras mágicas son “OK Google”. Para detectarlas, la máquina debe registrar constantemente todo sonido que se produce a su alrededor.

Google asegura que su dispositivo solo activa la grabación cuando registra un “OK Google” y que todo lo demás no se envía a los servidores de la compañía ni se guarda en la memoria interna del aparato (lo que quiere decir que cualquier sonido que se produzca tras “OK Google” sí será almacenado). Sin embargo, es imposible comprobar si eso es cierto. La única prueba de ello es la palabra de una multinacional que ha sido multada anteriormente por uso indebido de información personal o por recopilar datos con dispositivos que no tenían por qué hacerlo; y que justo este lunes ha reconocido que permite a cientos de empresas acceder a las cuentas de correo de Gmail, incluido al contenido de los mensajes y sus destinatarios.

“El problema de todos estos sistemas es que son cerrados, son cajas negras en las que no podemos entrar. No sabemos qué está recogiendo, no sabemos cómo lo recoge, no sabemos en qué se traduce esa información en sus bases de datos”, avisa Liliana Arroyo, investigadora del Instituto de Innovación Social de ESADE en temas de vigilancia, privacidad e impacto social de la tecnología.

Para utilizar Google Home es necesario conectarlo con tu cuenta personal de Google, la que gestiona tus búsquedas, tu correo en Gmail o los sitios a los que te guía Google Maps. La trazabilidad de una persona que usa normalmente todos estos servicios se extiende ahora a su domicilio con Google Home.

“En términos de protección de datos se pierde mucho control sobre lo que está registrando sobre ti y lo que no. Conoce tu calendario, sabe cuándo llamas a tu madre, cuándo discutes con tu pareja, a qué hora juega tu hijo, escucha todas las conversaciones de la casa... es un espía que colocas voluntariamente en el salón”, enumera Arroyo.

Una interpretación libre de “inteligencia”

Cuando estos “altavoces inteligentes” se activan arrancan un asistente de voz, un software de conversación como el que incorporan desde hace años los smartphones. Ese programa es capaz de interactuar con el usuarion y responder órdenes como buscar una receta, narrar las noticias, dar el parte del tiempo o anticipar cuánto vas a tardar des tu casa a tu destino con el tráfico de ese día.

Si todo esto no suena demasiado novedoso, es porque no lo es: “Este tipo de asistentes generan unas falsas expectativas cuando se anuncian. Son sistemas que entienden muy poco de lo que decimos los humanos y que solo son capaces de responder a comandos muy sencillos. En realidad son muy limitados”, explica Gemma Galdón, directora de Eticas, empresa que impulsa un desarrollo responsable en las nuevas tecnologías.

En un estudio sobre Alexa, el asistente de Amazon, Eticas concluyó que el hecho de que estos sistemas no sean tan inteligentes como asegura su publicidad termina generando fatiga en los usuarios, que tienden a abandonar su uso. “Como nos hablan de inteligencia artificial les atribuimos inteligencia, y en su uso descubrimos que no lo son. Eso puede dar lugar a momentos cómicos o a momentos peligrosos”, refleja Galdón, recordando cuando uno de estos asistentes grabó la conversación de una pareja y se la mandó a uno de sus contactos porque entendió que habían activado el comando de grabar y luego el de enviar mientras hablaban.

El diálogo complejo entre persona y máquina, en la que la primera ordena y la segunda obedece, es uno de los avances con los que la ciencia ficción ha soñado durante décadas. Sin embargo, la venta de publicidad ultra-dirigida basada en la extracción de datos personales en la que sustentan gran parte de su modelo de negocio las compañías que han desarrollado estas máquinas hace que utopía y distopía se mezclen peligrosamente.

“La gente desconoce cómo funcionan este tipo de aparatos, pero nos fascinan un montón. Que una maquinita en tu casa te hable y sepa responderte es muy chulo. Pero que sea tan chulo nos hace menos críticos con lo que realmente nos aporta y nos quita. En realidad es un aparato que tiene la capacidad de grabar voz de forma continua con el objetivo de estudiar quiénes somos y qué queremos comprar”, lamenta Galdón, nominada al premio mujeres innovadoras de la UE en 2017.

“Google Home y Google Home mini no graban ruidos de la casa”, insiste una portavoz de la multinacional a eldiario.es. No obstante, no niega que todo lo que se pronuncie a continuación de “OK Google” quedará registrado: “Al tratarse de una búsqueda por voz, como una que se pudiera realizar con el teclado o por voz a Google desde un móvil, queda registrado en Cuenta de Google. Ahí el usuario puede conocer qué búsquedas ha realizado que han quedado registradas, decidir eliminarlas todas, algunas, ninguna, etc.”.

Además de saciar la curiosidad de entablar un diálogo con la máquina, la empresa estadounidense expone que Google Home puede convertirse en “el cerebro de la casa”. Puede conectarse con cualquier otro aparato que tenga disponible esta opción y servir de intérprete con su dueño, recogiendo por voz las órdenes que el usuario tiene para él y transmitírselas en lenguaje binario. Por ejemplo, puede encender la televisión o lanzar una determinada aplicación en ella (como Netflix) si se sincronizan ambos dispositivos.

Lo que Google no dice es que ese cerebro no funciona solo para ti. La compañía avanza que a medida que se interactúe con el aparato entrará en juego el machine learning (aprendizaje automático): Google irá aprendiendo cada vez más sobre nosotros y será capaz de responder a las órdenes con mayor eficacia.

“El machine learning en realidad no es más que la identificación de patrones para ser capaz de reproducirlos de forma más rápida. El reverso más importante de eso es que a la máquina la incertidumbre le gusta poco. Te intentará encasillar en cosas que a lo mejor ahora encajan contigo, pero en seis meses no. La imagen que estas compañías tienen de ti nunca se corresponde del todo con la realidad”, sentencia Liliana Arroyo.

Voz, cara, huellas... el revés del Internet de las Cosas

“El problema ya no son solo los datos que recopilan a través de la voz. Tenemos un montón de sistemas que ha traído el Internet de las Cosas, como la integración de los software de reconocimiento facial por ejemplo, que detecta datos en el ambiente y transmite esos datos a la nube”, recuerda Francesca Bria, comisionada de Tecnología e Innovación Digital del Ayuntamiento de Barcelona.

El Internet de las Cosas y la digitalización de los aparatos de la casa hace incontenible la brecha de privacidad. Por definición, ningún aparato conectado a la red es 100% seguro. Incluso aunque su sistema operativo sea lo bastante robusto como para resistir intentos de injerencia, las aplicaciones de terceros vuelven a multiplicar exponencialmente las formas de penetrar.

En el caso de Google Home ya hay disponibles un buen número de ellas, como por ejemplo para ordenar al aparato que lea las noticias de determinados medios. Cuando recibe la solicitud, el dispositivo se reconecta a una app diseñada por esos medios para operar sobre él. Es a través de estas apps de terceros por donde se producen la mayoría de los agujeros que terminan en filtraciones de datos personales (y sí, es lo que ocurrió en el caso de Facebook y Cambridge Analytica).

Bria, miembro del Internet of Things Council, reconoce las amenazas a la privacidad que supone la invasión de este tipo de tecnología, pero confía en que el nuevo Reglamento Europeo de Protección de Datos sea un punto de inflexión. “Europa se ha quedado atrás en muchas de estas innovaciones. La mayoría de las compañías que están proponiendo estos nuevos sistemas basados en la inteligencia artificial son estadounidenses o asiáticas. Sin embargo, a cambio hemos sido capaces de proponer un nuevo estándar que exige la seguridad en el uso y el diseño de la tecnología”, defiende.

“Cualquiera que quiera comercializar sus productos en Europa tiene que trabajar para adaptarse al Reglamento, y el Reglamento es justamente un marco que pone en el centro los derechos de los usuarios. Con este dispositivo, Google se tendrá que asegurar muy, muy bien de que los datos de los usuarios no son tratados sin su consentimiento en ningún sentido posible”, concluye Bria.