Que souhaitez-vous savoir
- La conférence annuelle d'Amazon sur l'apprentissage automatique se déroule à Las Vegas du 21 au 24 juin.
- La société a récemment démontré qu'Alexa imitait la voix d'un parent décédé.
- La fonctionnalité est actuellement en développement, bien qu'Amazon n'ait pas précisé quand elle s'attend à ce qu'elle soit disponible sur les appareils.
Il ne fait aucun doute que l'assistant vocal Alexa d'Amazon est impressionnant et peut être très utile. Cependant, à mesure que l'IA continue de s'améliorer, il devient plus facile de trouver des exemples de façons dont la technologie pourrait nous faire réfléchir. La récente démonstration Alexa d'Amazon en fait sans doute partie.
La société organise actuellement sa conférence annuelle sur l'apprentissage automatique, l'automatisation, les robots et l'espace (re: MARS). Au cours du discours d'ouverture du deuxième jour, Rohit Prasad, scientifique en chef d'Amazon pour Alexa et AI, a démontré un nouvelle capacité sur laquelle l'entreprise travaille, qui, selon lui, peut "permettre une des relations."
Une vidéo joue avec un enfant demandant son Haut-parleur Alexa si leur grand-mère peut finir de leur lire une histoire. Alexa accepte, puis commence à lire une histoire à l'enfant avec la voix de sa grand-mère. Vous pouvez regarder la vidéo ci-dessous:
Bien que la fonctionnalité puisse sembler attachante pour certains, en particulier hors de son contexte, Prasad a préfacé le clip en mentionnant combien de personnes ont perdu des êtres chers tout au long de la pandémie de COVID-19 en cours. "Bien que l'IA ne puisse pas éliminer cette douleur de la perte, elle peut certainement faire durer leurs souvenirs."
L'idée est qu'Alexa serait capable d'imiter la voix d'un être cher décédé en utilisant moins d'une minute d'enregistrement. Les réactions en ligne l'ont déjà trouvé "effrayant", le comparant à un épisode de Black Mirror. Prasad dit lui-même que l'IA a atteint un point "où nos rêves et la science-fiction deviennent une réalité". Beaucoup de ces films de science-fiction ne se terminent pas trop bien.
Mais au-delà du facteur effrayant, il est possible que cette fonctionnalité soit utilisée à mauvais escient tout en posant des problèmes d'éthique et de sécurité.
"Il y a là une vraie pente glissante d'utiliser les données des personnes décédées d'une manière qui est à la fois effrayante d'un côté, mais profondément contraire à l'éthique de l'autre. parce qu'ils n'ont jamais considéré que ces traces étaient utilisées de cette manière", a déclaré Tama Leaver, professeur d'études sur Internet à l'université Curtin en Australie. dit Le Washington Post. Leaver dit que vous pourriez potentiellement oublier que vous parlez à un produit Amazon s'il utilise la voix d'un être cher.
Amazon n'a pas fourni beaucoup de détails sur son développement, ni mentionné quand les utilisateurs pourraient s'attendre à ce que la fonctionnalité soit disponible.
Malheureusement, ce n'est pas le premier (ou le dernier) exemple d'avancées récentes de l'IA préoccupantes. Récemment, un employé de Google a affirmé que l'entreprise LaMDA AI était sensible, ouvrant la porte à des spéculations quant à savoir si c'est vraiment le cas ou non. Bien sûr, L'IA de Google n'est pas sensible; au contraire, il fait un excellent travail pour convaincre les autres qu'il s'agit d'une personne réelle.