Amazon quiere que Alexa sea tu alarma de seguridad y detecte ruidos extraños cuando no estás en casa
– Alexa, me voy.
– Vale, activaré el modo guardián.
Al pronunciar este comando, el asistente virtual de Amazon activará la vigilancia de la casa donde se encuentre. Una vez en este “modo guardián”, Alexa registrará sonidos como el que hace un cristal al romperse y enviará una alarma al móvil asociado a la cuenta de usuario. También si lo que detecta es algo que su algoritmo, alojado en los servidores de Amazon, asocia con una alarma de humo o de incendios. El usuario decide qué ruidos desea que generen una alarma.
De momento Amazon solo ha lanzado esta funcionalidad en EEUU. “La internacionalización de nuestros productos y características es muy importante, pero no tenemos noticias que compartir al respecto”, ha expresado una portavoz de la compañía a la pregunta de eldiario.es sobre cuando llegará a España. Entre sus opciones está enviar un aviso también a la centralita de la empresa de seguridad en caso de que se tenga contratada una alarma. Si Alexa está enlazada con bombillas conectadas, el modo guardián se puede configurar para que las encienda y las apague con el objetivo de simular que hay alguien en casa.
Amazon introduce así a Alexa en el mercado de soluciones de seguridad. No obstante, con el modo guardián demuestra que pese a que la industria haya promovido este tipo de dispositivos con el nombre comercial de “altavoces inteligentes”, lo que mejor hacen es escuchar. Su agudo oído provocó que los expertos llamaran hace un año a ser precavidos con esta nueva ola de aparatos –Google, Amazon y Apple lanzaron productos similares en cuestión de pocos meses– capaces de extraer mucha información personal de los hogares.
“El problema de todos estos sistemas es que son cerrados, son cajas negras en las que no podemos entrar. No sabemos qué está recogiendo, no sabemos cómo lo recoge, no sabemos en qué se traduce esa información en sus bases de datos”, avisaba entonces Liliana Arroyo, investigadora del Instituto de Innovación Social de ESADE en temas de vigilancia, privacidad e impacto social de la tecnología, en una información de eldiario.es que recogía algunas de estas dudas.
Las mismas cuestiones se elevaron por todo el mundo. Los fabricantes alegan que sus dispositivos no graban todo lo que ocurre a su alrededor, sino que solo se activan cuando detectan su comando de activación (“Alexa”, en el caso de Amazon; “Ok, Google” en el de la multinacional homónima o “Hola, Siri”, en el de Apple). Mientras tanto, el aparato simplemente está a la espera, alegan.
El riesgo es que una palabra como “Alexa” es demasiado 'débil' para servir como único botón para activar un dispositivo capaz de registrar todo lo que pasa a su alrededor, guardarlo en los servidores de una empresa, analizarlo con algoritmos que pueden discriminar sonidos con alto grado de detalle (como para detectar un cristal rompiéndose, por ejemplo) e interpretarlo, como han denunciado 12 organizaciones de consumidores y de protección de la infancia de EEUU encabezadas por la Campaña por una infancia libre de anuncios el Centro para la Democracia Digital.
En una carta enviada a la Comisión Federal de Comercio, piden al organismo que abra una investigación sobre las prácticas de Amazon con Alexa. “Tiene la capacidad de recopilar grandes cantidades de información personal y confidencial de niños menores de 13 años. Por ejemplo, las grabaciones de voz de niños se consideran información personal”, advierten. A su vez, acusan a Amazon de conservarla “por más tiempo de lo razonablemente necesario. Solo borra información si un padre solicita explícitamente la eliminación contactando al servicio al cliente, de lo contrario, se conserva para siempre”.
Estas organizaciones también denuncian que la empresa no cumple con muchas normas de la legislación de protección de menores estadounidense, como obligar a cada aplicación que se lance a través de Alexa a recoger el consentimiento paterno antes de ejecutarse. Su campaña está referida a una edición especial para niños que Amazon pone a la venta en EEUU, aunque gran parte de sus funcionalidades están disponibles en España a través de las skills de Alexa.
Un equipo de gente que escucha las grabaciones
Amazon ha negado las acusaciones a través de un post en su blog. Asegura que siempre exige el consentimiento paterno y que hay múltiples vías de acceder a la información que recopila Alexa. “Nuestras políticas prohíben que las skills para niños recopilen información personal sin obtener por separado el consentimiento verificable de los padres y divulgar la recopilación de esta información en su política de privacidad. La mayoría de skills infantiles no proporcionan una política de privacidad porque simplemente no recopilan ninguna información personal”, afirma la empresa.
La queja de estas organizaciones se produce poco después de que el medio estadounidense Bloomberg revelara en exclusiva la existencia de un equipo de personas encargadas de revisar las grabaciones de comandos orales que Alexa no ha sido capaz de comprender. Su objetivo es interpretarlas y programar la inteligencia artificial para que sepa qué quería decir el usuario y ejecute la orden la próxima vez.
La investigación reveló que muchos de los archivos sonoros que analiza cada uno de los miembros del equipo se comparte con otro personal de Amazon. En ocasiones, porque este resulta divertido, como cuando el dispositivo se activa por error cuando el usuario está cantando y no es capaz de interpretar ninguna orden de la letra de la canción. En otras, como desahogo, cuando lo que se aprecia en la grabación es un abuso sexual que por alguna razón ha quedado registrada por el dispositivo. Dos miembros de este equipo explicaron al medio estadounidense que tras solicitar orientación para tales casos, se les dijo que no era tarea de Amazon interferir.
“Sólo anotamos un número extremadamente pequeño de interacciones de un conjunto aleatorio de clientes para mejorar la experiencia del cliente, siempre después de haber utilizado la palabra de activación de un dispositivo”, reza el comunicado oficial enviado por la compañía a eldiario.es al preguntar por estas revelaciones. “Tenemos estrictas salvaguardas técnicas y operativas, y tenemos una política de tolerancia cero en cuanto al abuso de nuestro sistema. Los empleados no tienen acceso directo a la información que puede identificar a la persona o cuenta del cliente como parte de este flujo de trabajo”, manifiesta Amazon.
