Los empleados de Amazon pueden llegar a escuchar lo que le dices a Alexa

La omnipresencia de los dispositivos es cada vez mayor. Y mayor es también la inercia que impulsa a los usuarios. Si con un ordenador los estímulos hay que buscarlos proactivamente, los smartphones están en nuestro bolsillo, a un segundo de desenfunde y desbloqueo de pantalla. Ya no es el usuario el que busca sino que lo encuentran a él. Por si fuera poco, la pantalla nos devuelve una ristra de notificaciones acumuladas en la barra superior. En nada de esto el usuario ha sido proactivo como lo era antes.

Cabe esperar que esta tendencia hacia la comodidad de encontrar las cosas en vez de buscarlas se acentúe con los nuevos dispositivos. Los asistentes personales, especialmente los del hogar, sirven en bandeja la inmediatez. Buscada, sí. Pero tan accesible –a distancia de un comando de voz, sin moverse del sofá, sin incorporarse siquiera, sin necesidad de volver la vista hacia otro lado– que resulta imposible no aprovechar esa ventaja de la comodidad.

El problema, desde luego no es la comodidad en sí. Pero para construir esa comodidad las empresas necesitan conocer mejor a sus usuarios y su comportamiento. Esta es la raíz de todos los escándalos que ha tenido Facebook con el caso de Cambridge Analytica.

La manera en la que Amazon construye la comodidad para sus usuarios de Alexa es, como cabría esperar, escuchar sus conversaciones con el asistente. Lo ha publicado Bloomberg tras hablar con siete empleados –contratados y subcontratados– cuyo trabajo precisamente consiste en escuchar lo que los usuarios del Amazon Echo le piden a su dispositivo.

Se ocupan de mejorar Alexa para que responda de forma más precisa a los requerimientos de los usuarios. Y es que la inteligencia artificial que está detrás del asistente se entrena continuamente. Para esta tarea normalmente es necesario contar con la labor seres humanos, que encaucen el aprendizaje.

El etiquetado de los datos es una parte fundamental para la inteligencia artificial y para su evolución. Si esto no se hace correctamente los avances serán menores o no ocurrirán. Y para llevar a cabo el etiquetado se requiere una inteligencia superior al algoritmo en cuestión, es decir, personas.

En realidad este es el trabajo que hacen los empleados que mejoran Alexa. Escuchan fragmentos de audio para saber qué dice el usuario y comprobar en qué falla –si lo hace– el algoritmo de Alexa. Cuando haya un error se indica, con la voluntad de introducir posteriormente este conocimiento en el sistema. Así no fallará otra vez en una situación similar.

Pero los términos de privacidad de Amazon no exponen explícitamente que otras personas vayan a escuchar la grabaciones de lo que un usuario habla con su dispositivo. Y en cualquier caso no resulta agradable pensar que cualquier cosa que puedas decirle a Alexa puede escucharlo otra persona alejada de tu intimidad.

En su artículo, Bloomberg señala que los empleados con lo que ha contactado trabajan desde Boston, India y Rumanía. Su jornada es de nueve horas al día y en ella son capaces de revisar hasta 1.000 audios.

Otros detalles son más escabrosos aún. Un pantallazo al que tuvo acceso Bloomberg mostraba que las grabaciones están asociadas a un número de cuenta de cliente, el número de serie del dispositivo y el nombre de pila del usuario. No aparece el nombre completo, pero estos son datos que dan pie a la identificación de la persona que habla.

No importa que en las opciones de privacidad de Alexa hayas indicado que tus conversaciones no se usen para mejorar el producto. La compañía afirma que las grabaciones de estos usuarios también pueden ser analizadas. En Internet sobrevuela una pregunta irónica sobre estos asistentes para el hogar. ¿Queremos tener un espía en el salón que nos escuche todo lo que decimos? El siguiente paso ya está aquí, son estos mismos dispositivos con cámara. A Orwell le daría un parraque.