Tisíce zamestnancov Amazonu počúvajú vaše konverzácie Alexa

Alexa je nainštalovaná na viac ako 100 miliónoch zariadení po celom svete a v procese získava miliardy používateľských otázok. Rovnako ako všetci digitálni asistenti, aj Alexa sa spolieha na to, že lepšie odpovede poskytne dátové modely, ale vyzerá to, že Amazon digitálnemu asistentovi tiež poskytol pomocnú ruku v podobe ľudských kontrol. An vyšetrovanie Bloomberg odhalila, že Amazon má globálny tím, ktorý prepisuje a annonizuje nahrávky Alexa z celého sveta do „eliminujte medzery v Alexinom chápaní ľudskej reči“ a umožnite asistentovi, aby lepšie reagoval na vaše otázky dotazy.

V publikácii sa zistilo, že spoločnosť Amazon zamestnáva tisíce ľudí po celom svete - dodávateľov aj zamestnanci na plný úväzok - kontrolovať nahrávky Alexa s tímami rozmiestnenými po Bostone, Kostarike, Indii a Rumunsko. Podľa nemenovaného zdroja každý recenzent analyzuje viac ako 1 000 zvukových klipov v priebehu deväťhodinovej zmeny, anotuje ich a dodáva ich späť do systému, aby zlepšil Alexove odpovede. Od Bloomberg:

Jeden pracovník v Bostone uviedol, že ťažil nahromadené hlasové údaje pre konkrétne výroky, ako napríklad „Taylor Swift“, a anotoval ich, aby naznačil, že hľadač má na mysli hudobného umelca.

Poslucháči príležitostne zachytia veci, ktoré by majitelia Echa pravdepodobne radšej nechali v súkromí: povedzme žena, ktorá v sprche zle spieva, alebo dieťa kričí o pomoc. Tímy používajú interné chatovacie miestnosti na zdieľanie súborov, keď potrebujú pomoc s analýzou zmäteného slova - alebo narazia na zábavnú nahrávku.

Publikácia tiež zistila, že zamestnanci narazia na nahrávky, ktoré majú rušivý charakter:

Niekedy počujú nahrávky, ktoré považujú za rozrušené alebo pravdepodobne kriminálne. Dvaja z pracovníkov uviedli, že zachytili to, čo podľa nich bolo sexuálnym útokom. Keď sa niečo také stane, môžu sa podeliť o skúsenosti v internej miestnosti na rozhovor ako spôsob úľavy od stresu.

Amazon tvrdí, že má zavedené postupy, podľa ktorých majú pracovníci postupovať, keď začujú niečo znepokojujúce, ale iba dva Zamestnanci v Rumunsku uviedli, že po vyžiadaní pokynov pre takéto prípady im bolo povedané, že to nie je úlohou Amazonu prekážať.

Záznamy neobsahujú celé meno ani adresu používateľa, obsahujú však krstné meno, číslo účtu a sériové číslo zariadenia. Amazon už predtým spomenul, že pri príprave Alexa sa spolieha na spracovanie prirodzeného jazyka, ale pripustil to Bloomberg že používa ľudský prvok na anotáciu „malej vzorky hlasových nahrávok Alexa:“

Bezpečnosť a súkromie osobných údajov našich zákazníkov berieme vážne. Za účelom vylepšenia zákazníckej skúsenosti anotujeme iba extrémne malú vzorku hlasových nahrávok Alexa. Tieto informácie nám napríklad pomáhajú trénovať rozpoznávanie reči a prirodzený jazyk systémy, aby Alexa mohla lepšie porozumieť vašim požiadavkám a zaistiť, aby služba fungovala dobre pre každého.

Máme prísne technické a prevádzkové záruky a máme politiku nulovej tolerancie zneužitia nášho systému. Zamestnanci nemajú priamy prístup k informáciám, ktoré môžu identifikovať osobu alebo účet ako súčasť tohto pracovného toku. So všetkými informáciami sa zaobchádza vysoko dôverne a na zabezpečenie ich ochrany používame viacfaktorovú autentizáciu na obmedzenie prístupu, šifrovanie služieb a audity nášho kontrolného prostredia.

Nielen Amazon sa obracia na pomocníkov pri vývoji digitálneho asistenta. Bloomberg zistil, že Apple má aj ľudský tím, ktorý kontroluje, či sa Siriho interpretácia požiadaviek zhoduje s tým, čo požadovali používatelia. Google má kontrolórov, ktorí školia asistenta, ale klipy neobsahujú žiadne osobné identifikačné údaje a samotný zvuk je skreslený, aby sa zabránilo akejkoľvek identifikácii.