Tusinder af Amazon-medarbejdere lytter til dine Alexa-samtaler

Alexa er installeret på over 100 millioner enheder over hele kloden og erhverver milliarder af brugerforespørgsler i processen. Som alle digitale assistenter er Alexa afhængig af datamodeller for at give bedre svar, men det ser ud til, at Amazon også gav den digitale assistent en hjælpende hånd i form af menneskelige anmeldelser. An undersøgelse af Bloomberg har afsløret, at Amazon har et globalt team, der transskriberer og annonerer Alexa-optagelser fra hele verden til "eliminere huller i Alexa's forståelse af menneskelig tale" og lad assistenten tjene bedre svar på din forespørgsler.

Publikationen fandt ud af, at Amazon beskæftiger tusinder af mennesker over hele verden - både entreprenører og fuldtidsansatte - til at gennemgå Alexa-optagelser med hold spredt over Boston, Costa Rica, Indien og Rumænien. Ifølge en ikke navngivet kilde analyserer hver korrekturlæser over 1.000 lydklip i løbet af et ni-timers skift, annoterer dem og fodrer dem tilbage til systemet for at forbedre Alexa's svar. Fra Bloomberg:

En arbejdstager i Boston sagde, at han minede akkumulerede stemmedata til bestemte udtalelser som "Taylor Swift" og kommenterede dem for at indikere, at søgeren mente musikalsk kunstner.

Lejlighedsvis opfanger lytterne ting, ekko-ejere sandsynligvis hellere vil være private: en kvinde, der synger dårligt nøglen i brusebadet, siger, eller et barn, der skriger om hjælp. Holdene bruger interne chatrum til at dele filer, når de har brug for hjælp til at analysere et forvirret ord - eller støder på en morsom optagelse.

Publikationen fandt også, at medarbejdere støder på optagelser, der er foruroligende:

Nogle gange hører de optagelser, de finder foruroligende eller muligvis kriminelle. To af arbejdstagerne sagde, at de tog op, hvad de mener var et seksuelt overgreb. Når noget lignende sker, kan de dele oplevelsen i det interne chatrum som en måde at lindre stress på.

Amazon siger, at det har procedurer på plads, som arbejdere kan følge, når de hører noget foruroligende, men to Rumænienbaserede medarbejdere sagde, at de efter at have anmodet om vejledning til sådanne sager fik at vide, at det ikke var Amazons job at blande.

Optagelserne har ikke en brugers fulde navn eller adresse, men de inkluderer brugerens fornavn, et kontonummer og enhedens serienummer. Amazon har tidligere nævnt, at det er afhængigt af naturlig sprogbehandling for at træne Alexa, men det har indrømmet det Bloomberg at det bruger et menneskeligt element til at kommentere en "lille prøve af Alexa-stemmeoptagelser:"

Vi tager sikkerheden og fortroligheden af ​​vores kunders personlige oplysninger alvorligt. Vi annoterer kun en ekstremt lille prøve af Alexa-stemmeoptagelser for at forbedre kundeoplevelsen. For eksempel hjælper disse oplysninger os med at træne vores talegenkendelse og naturlige sprog forståelse af systemer, så Alexa bedre kan forstå dine anmodninger og sikre, at tjenesten fungerer godt for alle.

Vi har strenge tekniske og operationelle garantier og har en nultolerancepolitik for misbrug af vores system. Medarbejdere har ikke direkte adgang til oplysninger, der kan identificere personen eller kontoen som en del af denne arbejdsgang. Alle oplysninger behandles med høj fortrolighed, og vi bruger multifaktorautentificering til at begrænse adgang, servicekryptering og revision af vores kontrolmiljø for at beskytte dem.

Det er ikke kun Amazon, der henvender sig til menneskers hjælpere til at udvikle sin digitale assistent. Bloomberg fandt ud af, at Apple også har et menneskeligt team, der kontrollerer, om Siris fortolkning af anmodninger stemmer overens med det, der blev bedt om af brugerne. Google har korrekturlæsere, der træner assistent, men klipene har ingen personligt identificerbare oplysninger, og selve lyden er forvrænget for at forhindre identifikation.