Firma tecnológica revisará el programa de 'calificación' del asistente virtual después de las revelaciones de Guardian
Apple ha suspendido su práctica de hacer que los contratistas humanos escuchen las grabaciones de Siri de los usuarios para "calificarlas", luego de un informe de Guardian que revela la práctica .
La compañía dijo que no reiniciará el programa hasta que haya realizado una revisión exhaustiva de la práctica. También se ha comprometido a agregar la posibilidad de que los usuarios opten por no participar del esquema de garantía de calidad en una futura actualización de software.
Apple dijo: "Estamos comprometidos a ofrecer una gran experiencia Siri al tiempo que protegemos la privacidad del usuario. Si bien llevamos a cabo una revisión exhaustiva, estamos suspendiendo la calificación de Siri a nivel mundial. Además, como parte de una futura actualización de software, los usuarios tendrán la posibilidad de elegir participar en la calificación ".
Los contratistas que trabajan para Apple en Irlanda dijeron que no se les informó sobre la decisión cuando llegaron a trabajar el viernes por la mañana, sino que se les envió a casa durante el fin de semana después de que se les dijo que el sistema que usaban para la clasificación "no funcionaba" a nivel mundial. Solo se pidió a los gerentes que permanecieran en el sitio, dijeron los contratistas, y agregaron que no se les había dicho qué significa la suspensión para su futuro empleo.
La suspensión fue impulsada por un informe en The Guardian la semana pasada que reveló que los contratistas de la compañía escuchan "regularmente" información confidencial y privada mientras llevan a cabo el proceso de clasificación, incluidos los tratos de drogas en curso, detalles médicos y personas que tienen relaciones sexuales.
La mayor parte de esa información confidencial se grabó a través de activadores accidentales del asistente digital Siri, dijo un denunciante al Guardian. El Apple Watch fue particularmente susceptible a tales desencadenantes accidentales, dijeron. "La regularidad de los disparadores accidentales en el reloj es increíblemente alta ... El reloj puede grabar algunos fragmentos que durarán 30 segundos, no tanto tiempo, pero puedes obtener una buena idea de lo que está sucediendo".
A veces, el contratista de Apple dijo: "definitivamente se puede escuchar a un médico y un paciente, hablando sobre el historial médico del paciente". O escucharía a alguien, tal vez con el ruido de fondo del motor del automóvil: no puede decirlo definitivamente, pero es un negocio de drogas ... definitivamente puede escuchar que sucede. Y escucharía, como, personas involucradas en actos sexuales que se graban accidentalmente en el pod o en el reloj ".
Aunque Apple les dijo a los usuarios que los datos de Siri pueden usarse "para ayudar a Siri ... a entenderlo mejor y reconocer lo que dice", la compañía no reveló explícitamente que esto implicaba que los contratistas humanos escucharan una selección aleatoria de grabaciones de Siri, incluidas aquellas activadas accidentalmente.
"Demasiado a menudo vemos que los llamados 'asistentes inteligentes' están de hecho espiando", dijo Silkie Carlo, directora del grupo de campaña del Reino Unido Big Brother Watch . "También vemos que a menudo recopilan y utilizan la información personal de las personas de formas que las personas desconocen y no pueden controlar".
Agregó: “El récord de privacidad de Apple está realmente cayendo. El iOS actual no permite a los usuarios optar por el reconocimiento facial en las fotos, y esta revelación sobre Siri significa que nuestros iPhones nos escuchaban sin nuestro conocimiento ".
La compañía no está sola en criticar sus programas de garantía de calidad no revelados. Tanto Amazon como Google también usan contratistas para verificar la calidad de sus asistentes de voz, según informes en Bloomberg y en el canal de televisión belga VRT , y los contratistas de ambas compañías han expresado su incomodidad por la naturaleza de las grabaciones escuchadas.
La revelación del programa de Google en particular causó preocupación debido al hecho de que el informe de noticias fue acompañado por una filtración de más de 1,000 clips de audio, revelando que al menos uno de cada 10 había sido capturado accidentalmente.
Eso llevó al comisionado de protección de datos de Hamburgo en Alemania a prohibir a Google llevar a cabo esos controles durante tres meses, citando una posible violación de la regulación general de protección de datos (GDPR). El comisionado citó una "necesidad urgente de proteger los derechos y libertades" de los usuarios de Google Home al promulgar la prohibición temporal, que de lo contrario sería responsabilidad del comisionado de protección de datos irlandés, el controlador principal de Google, así como de Apple, en el UE. Google dice que ya había cesado la práctica el 10 de julio, cuando se enteró de la fuga de clips de audio.
Amazon y Apple escaparon de la prohibición, dijo el comisionado de Hamburgo, porque esas compañías tienen sus oficinas centrales alemanas en Munich y, por lo tanto, están cubiertas por un comisionado diferente según las leyes de privacidad de ese país. Pero el comisionado pidió a otros reguladores que "verifiquen rápidamente otros proveedores de sistemas de asistencia lingüística, como Apple o Amazon, para implementar las medidas apropiadas".
Amazon es el único proveedor importante de tecnología de asistente de voz que todavía utiliza humanos para verificar grabaciones en la UE. (The Guardian)