Los 'humanos' de Amazon no sólo monitorizan lo que dices a Alexa, sino que pueden saber dónde vives
Alexa, el asistente virtual de Amazon que vive en los altavoces inteligentes Echo y cada vez más dispositivos de electrónica de consumo, es bastante discreto. Sólo escucha a los usuarios cuando detecta que se ha pronunciado su nombre e interpreta los comandos de voz en un servidor, utilizando varios algoritmos de aprendizaje máquina e inteligencia artificial.
Esa es la teoría. La práctica es más compleja.
Aunque es cierto que la mayoría de comandos de voz que articulan los usuarios son interpretados sin ayuda humana, Amazon tiene varios equipos de personas de carne y hueso que analizan los comandos que Alexa no consigue entender para tartar de mejorar el algoritmo de escucha.
Estos equipos están repartidos por todo el mundo y su función es transcribir, corregir y anotar una pequeña parte de los comandos que Alexa no es capaz de comprender, bien porque se han pronunciado de manera diferente a la esperada o bien porque Alexa ha comenzado a grabar por error una conversación cuando no debía.
Amazon sostiene que estos empleados no tienen acceso a información personal de los clientes. Sólo reciben los ficheros de audio asociados a un número de identificación de usuario para cada grabación.
Pero, de nuevo, esa es la teoría. La práctica es más compleja.
Según Bloomberg, estos empleados de Amazon reciben también como información asociada a la grabación las coordenadas de localización en las que se ha producido. Según empleados de Amazon que han hablado con la publicación bajo anonimato, averiguar la localización sobre el mapa de las grabaciones es trivial y puede hacer muy sencilla la identificación de las personas que hablan en las grabaciones. Algunos empleados tienen acceso-o tenían hasta hace poco-, a la información de envío de la cuenta de Amazon asociada al número de identificación.
De momento no hay ningún caso registrado de empleados que hayan aprovechado esta posibilidad para espiar o acceder a datos personales de los clientes y Amazon, en los últimos días, ha restringido de forma significativa el número de empleados con acceso a información sensible.
La empresa también ha reiterado que sólo una pequeña parte de las grabaciones y comandos que no son reoconocidos por el sistema automático pasan a ser analizadas por estos equipos.
Aún así, esta forma de actuar puede sorprender a muchos usuarios de Alexa, que piensan que detrás de estos asistentes virtuales sólo hay rutinas de software. Aunque es cierto que en la mayoría de los casos es así, es necesaria una labor de transcripción para seguir entrenando los algoritmos y que vayan adaptándose a distintos acentos y expresiones. Esa tarea sigue recayendo en humanos.
Y aunque estos asistentes tienen palabras clave para comenzar a funcionar, no es extraño que malinterpreten una frase durante una conversación no dirigida a ellos o al tener la televisión de fondo y comiencen a grabar sin que el usuario se consciente de ello.
ÁNGEL JIMÉNEZ DE LUIS
Atlanta
26/04/2019
No hay comentarios:
Publicar un comentario
Nota: solo los miembros de este blog pueden publicar comentarios.