Хиляди служители на Amazon слушат вашите разговори в Alexa

Alexa е инсталирана на над 100 милиона устройства по целия свят, като в този процес придобива милиарди потребителски заявки. Подобно на всички цифрови асистенти, Alexa разчита на модели данни, за да предложи по-добри отговори, но изглежда, че Amazon също е подал помощ на цифровия асистент под формата на човешки отзиви. An разследване от Блумбърг разкри, че Amazon има глобален екип, който транскрибира и поставя анотации на записи на Alexa от цял ​​свят в „премахнете пропуските в разбирането на Alexa за човешката реч“ и позволете на асистента да отговори по-добре на вашите заявки.

Изданието установи, че в Amazon работят хиляди хора по целия свят - както изпълнители, така и щатни служители - да преглеждат записите на Alexa, с екипи, разположени в Бостън, Коста Рика, Индия и Румъния. Според неназован източник всеки рецензент анализира над 1000 аудио клипа за деветчасова смяна, като ги анотира и ги връща обратно в системата, за да подобри отговорите на Alexa. От Блумбърг:

Един работник в Бостън каза, че е добил натрупани гласови данни за конкретни изказвания като "Тейлър Суифт" и ги е отбелязал, за да посочи, че търсещият има предвид музикалния изпълнител.

instagram viewer

Понякога слушателите вземат неща, които собствениците на Echo вероятно биха предпочели да останат насаме: жена, която пее лошо под ключ под душа, да речем, или дете, което крещи за помощ. Екипите използват вътрешни стаи за чат, за да споделят файлове, когато се нуждаят от помощ при анализирането на объркана дума - или се натъкват на забавен запис.

Изданието също така установи, че служителите се натъкват на записи с притеснителен характер:

Понякога чуват записи, които намират за разстроени или евентуално престъпни. Двама от работниците казаха, че са вдигнали, според тях, сексуално насилие. Когато се случи нещо подобно, те могат да споделят опита във вътрешната чат стая като начин за облекчаване на стреса.

Amazon казва, че има въведени процедури, които работниците да следват, когато чуят нещо тревожно, но две Базираните в Румъния служители заявиха, че след като са поискали насоки за подобни случаи, им е казано, че не е работа на Amazon намесва.

Записите нямат пълното име или адрес на потребителя, но включват собственото име на потребителя, номер на акаунт и серийния номер на устройството. По-рано Amazon спомена, че разчита на обработка на естествен език, за да обучава Alexa, но призна Блумбърг че използва човешки елемент, за да анотира „малка извадка от гласови записи на Alexa:“

Ние приемаме сериозно сигурността и поверителността на личната информация на нашите клиенти. Анотираме само изключително малка извадка от гласови записи на Alexa, за да подобрим клиентското изживяване. Например тази информация ни помага да тренираме разпознаването на речта и естествения език разбиране на системи, така че Alexa да може по-добре да разбере вашите заявки и да гарантира, че услугата работи добре за всички.

Ние имаме строги технически и оперативни предпазни мерки и имаме политика на нулева толерантност към злоупотребата с нашата система. Служителите нямат пряк достъп до информация, която може да идентифицира лицето или акаунта като част от този работен процес. Цялата информация се третира с висока поверителност и ние използваме многофакторно удостоверяване, за да ограничим достъпа, криптирането на услугите и одитите на нашата контролна среда, за да я защитим.

Не само Amazon се обръща към помощниците на хората, за да разработи своя дигитален асистент. Блумбърг установи, че Apple разполага и с човешки екип, който проверява дали интерпретацията на заявките на Siri съвпада с това, което е поискано от потребителите. Google има рецензенти, които обучават Асистент, но клиповете нямат никаква лична информация и аудиото е изкривено, за да предотврати идентифициране.