Tuhannet Amazonin työntekijät kuuntelevat Alexa-keskustelujasi

Alexa on asennettu yli 100 miljoonaan laitteeseen ympäri maailmaa, ja se hankkii miljardeja käyttäjäkyselyjä prosessin aikana. Kuten kaikki digitaaliset avustajat, Alexa luottaa tietomalleihin tarjotakseen parempia vastauksia, mutta näyttää siltä, ​​että Amazon antoi digitaaliselle avustajalle myös auttavan käden ihmiskatsausten muodossa. An tutkinta Bloomberg on paljastanut, että Amazonilla on maailmanlaajuinen tiimi, joka litteroi ja merkitsee Alexa-äänitteitä ympäri maailmaa "poista aukot Alexan ymmärryksessä ihmisen puheesta" ja anna avustajan palvella parempia vastauksia puheeseesi kyselyt.

Julkaisun mukaan Amazon työllistää tuhansia ihmisiä ympäri maailmaa - sekä urakoitsijoita että kokopäiväiset työntekijät - tarkistaa Alexa-tallenteet tiimien kanssa hajallaan Bostonissa, Costa Ricassa, Intiassa ja Romania. Nimeämättömän lähteen mukaan kukin arvostelija jäsentää yli 1000 äänileikettä yhdeksän tunnin vaihdon aikana merkitsemällä ne ja syöttämällä ne takaisin järjestelmään Alexan vastausten parantamiseksi. Alkaen Bloomberg:

Yksi Bostonin työntekijä kertoi kaivanneensa kertynyttä äänitietoa tietyille lausunnoille, kuten "Taylor Swift", ja merkitsi ne osoittamaan, että hakija tarkoitti musiikkitaiteilijaa.

Toisinaan kuuntelijat noutavat asioita, jotka Echo-omistajat todennäköisesti mieluummin pysyvät yksityisinä: nainen, joka laulaa huonosti avainta suihkussa, tai lapsi, joka huutaa apua. Ryhmät käyttävät sisäisiä keskusteluhuoneita tiedostojen jakamiseen, kun he tarvitsevat apua hämmentävän sanan jäsentämisessä - tai törmäävät huvittavaan äänitykseen.

Julkaisussa todettiin myös, että työntekijät kohtaavat luonteeltaan häiritseviä äänitteitä:

Joskus he kuulevat äänitteitä, jotka he pitävät järkyttävinä tai mahdollisesti rikollisina. Kaksi työntekijää kertoi ottaneensa uskonsa mukaan seksuaalisen väkivallan. Kun jotain sellaista tapahtuu, he voivat jakaa kokemuksia sisäisessä keskusteluhuoneessa keinona lievittää stressiä.

Amazon sanoo, että sillä on käytössään menettelyt, joita työntekijöiden on noudatettava, kun he kuulevat jotain ahdistavaa, mutta kaksi Romaniassa työskentelevät työntekijät sanoivat, että pyydettyään ohjeita tällaisiin tapauksiin heille kerrottiin, ettei se ollut Amazonin tehtävä häiritä.

Tallenteilla ei ole käyttäjän koko nimeä tai osoitetta, mutta niissä on käyttäjän etunimi, tilinumero ja laitteen sarjanumero. Amazon on aiemmin maininnut, että se luottaa luonnolliseen kielenkäsittelyyn Alexan kouluttamiseksi, mutta on myöntänyt Bloomberg että se käyttää inhimillistä elementtiä merkitsemään "pienen näytteen Alexan äänitallenteista:"

Otamme asiakkaidemme henkilökohtaisten tietojen turvallisuuden ja yksityisyyden vakavasti. Huomautamme vain erittäin pienen otoksen Alexan äänitallenteista asiakaskokemuksen parantamiseksi. Esimerkiksi nämä tiedot auttavat meitä kouluttamaan puheen tunnistusta ja luonnollista kieltä ymmärtää järjestelmiä, joten Alexa voi paremmin ymmärtää pyyntösi ja varmistaa, että palvelu toimii hyvin kaikille.

Meillä on tiukat tekniset ja operatiiviset takeet, ja järjestelmämme väärinkäytökset ovat nollatoleranssia. Työntekijöillä ei ole suoraa pääsyä tietoihin, jotka voivat tunnistaa henkilön tai tilin osana tätä työnkulkua. Kaikkia tietoja käsitellään suurella luottamuksellisuudella, ja käytämme monivaiheista todennusta rajoittaaksemme pääsyä, palvelujen salausta ja valvontaympäristön auditointeja sen suojaamiseksi.

Digitaalisen avustajan kehittäminen ei ole vain Amazon, joka kääntyy ihmisten avustajien puoleen. Bloomberg totesi, että Applella on myös ihmisryhmä, joka tarkistaa, vastaako Sirin pyyntöjen tulkinta käyttäjien pyytämiä tietoja. Googlella on arvioijia, jotka kouluttavat Assistantia, mutta leikkeissä ei ole henkilökohtaisia ​​tietoja, ja itse ääni on vääristynyt tunnistamisen estämiseksi.