Tausende von Amazon-Mitarbeitern hören sich Ihre Alexa-Gespräche an

Alexa ist auf über 100 Millionen Geräten auf der ganzen Welt installiert und erfasst dabei Milliarden von Benutzeranfragen. Wie alle digitalen Assistenten verlässt sich Alexa auf Datenmodelle, um bessere Antworten zu bieten, aber es sieht so aus, als hätte Amazon dem digitalen Assistenten auch in Form menschlicher Bewertungen geholfen. Ein Untersuchung durch Bloomberg hat ergeben, dass Amazon ein globales Team hat, das Alexa-Aufnahmen von überall in die Welt transkribiert und annoniert "Beseitigen Sie Lücken in Alexas Verständnis der menschlichen Sprache" und ermöglichen Sie dem Assistenten, bessere Antworten auf Ihre Fragen zu geben Anfragen.

Die Veröffentlichung ergab, dass Amazon Tausende von Menschen auf der ganzen Welt beschäftigt - sowohl Auftragnehmer als auch Vollzeitbeschäftigte - zur Überprüfung der Alexa-Aufnahmen mit Teams in Boston, Costa Rica, Indien und Rumänien. Laut einer ungenannten Quelle analysiert jeder Rezensent in einer neunstündigen Schicht über 1.000 Audioclips, kommentiert sie und gibt sie an das System zurück, um die Antworten von Alexa zu verbessern. Von

Bloomberg:

Ein Mitarbeiter in Boston sagte, er habe gesammelte Sprachdaten für bestimmte Äußerungen wie "Taylor Swift" abgebaut und mit Anmerkungen versehen, um anzuzeigen, dass der Suchende den Musiker meinte.

Gelegentlich nehmen die Zuhörer Dinge auf, die Echo-Besitzer wahrscheinlich lieber privat halten würden: eine Frau, die unter der Dusche schlecht singt, oder ein Kind, das um Hilfe schreit. Die Teams verwenden interne Chatrooms, um Dateien gemeinsam zu nutzen, wenn sie Hilfe beim Parsen eines durcheinandergebrachten Wortes benötigen - oder auf eine amüsante Aufzeichnung stoßen.

Die Veröffentlichung stellte außerdem fest, dass Mitarbeiter auf störende Aufzeichnungen stoßen:

Manchmal hören sie Aufnahmen, die sie als störend oder möglicherweise kriminell empfinden. Zwei der Arbeiter sagten, sie hätten etwas aufgegriffen, von dem sie glauben, dass es ein sexueller Übergriff sei. Wenn so etwas passiert, können sie die Erfahrung im internen Chatroom teilen, um Stress abzubauen.

Amazon sagt, dass es Verfahren gibt, die die Arbeiter befolgen müssen, wenn sie etwas Beunruhigendes hören, aber zwei Mitarbeiter mit Sitz in Rumänien sagten, nachdem sie um Anleitung für solche Fälle gebeten hatten, wurde ihnen gesagt, dass dies nicht die Aufgabe von Amazon sei stören.

Die Aufzeichnungen haben nicht den vollständigen Namen oder die vollständige Adresse eines Benutzers, sondern den Vornamen des Benutzers, eine Kontonummer und die Seriennummer des Geräts. Amazon hat bereits erwähnt, dass es auf die Verarbeitung natürlicher Sprache angewiesen ist, um Alexa zu trainieren, hat dies jedoch zugegeben Bloomberg dass es ein menschliches Element verwendet, um eine "kleine Auswahl von Alexa-Sprachaufnahmen" zu kommentieren:

Wir nehmen die Sicherheit und den Datenschutz der persönlichen Daten unserer Kunden ernst. Wir kommentieren nur eine extrem kleine Auswahl von Alexa-Sprachaufnahmen, um das Kundenerlebnis zu verbessern. Diese Informationen helfen uns beispielsweise dabei, unsere Spracherkennung und natürliche Sprache zu trainieren Wenn Sie die Systeme verstehen, kann Alexa Ihre Anforderungen besser verstehen und sicherstellen, dass der Service gut funktioniert für jeden.

Wir haben strenge technische und betriebliche Sicherheitsvorkehrungen und eine Null-Toleranz-Richtlinie für den Missbrauch unseres Systems. Mitarbeiter haben keinen direkten Zugriff auf Informationen, die die Person oder das Konto als Teil dieses Workflows identifizieren können. Alle Informationen werden mit hoher Vertraulichkeit behandelt und wir verwenden die Multi-Faktor-Authentifizierung, um den Zugriff, die Dienstverschlüsselung und die Audits unserer Kontrollumgebung einzuschränken, um sie zu schützen.

Es ist nicht nur Amazon, das sich an menschliche Helfer wendet, um seinen digitalen Assistenten zu entwickeln. Bloomberg festgestellt, dass Apple auch ein menschliches Team hat, das prüft, ob Siris Interpretation von Anfragen mit den von Benutzern gestellten übereinstimmt. Google hat Prüfer, die den Assistenten schulen, aber die Clips enthalten keine persönlich identifizierbaren Informationen und das Audio selbst ist verzerrt, um eine Identifizierung zu verhindern.