Lo que necesitas saber
- La conferencia anual de aprendizaje automático de Amazon se lleva a cabo en Las Vegas del 21 al 24 de junio.
- La compañía recientemente demostró a Alexa imitando la voz de un pariente fallecido.
- La función se encuentra actualmente en desarrollo, aunque Amazon no dijo cuándo espera que esté disponible en los dispositivos.
No hay duda de que el asistente de voz Alexa de Amazon es impresionante y puede ser muy útil. Sin embargo, a medida que la IA continúa mejorando, se vuelve más fácil encontrar ejemplos de formas en que la tecnología podría detenernos. Podría decirse que la reciente demostración de Alexa de Amazon es una de ellas.
Actualmente, la compañía está organizando su conferencia anual sobre aprendizaje automático, automatización, robots y espacio (re: MARS). Durante el discurso de apertura del segundo día, Rohit Prasad, científico principal de Amazon para Alexa e IA, demostró una nueva capacidad en la que está trabajando la empresa, una que, según él, puede "permitir relaciones".
Se reproduce un video con un niño preguntando a su altavoz de alexa si su abuela puede terminar de leerles un cuento. Alexa está de acuerdo, luego comienza a leerle una historia al niño con la voz de su abuela. Puedes ver el video a continuación:
Si bien la función puede parecer entrañable para algunos, especialmente fuera de contexto, Prasad introdujo el clip mencionando cuántas personas han perdido a sus seres queridos durante la actual pandemia de COVID-19. "Si bien la IA no puede eliminar el dolor de la pérdida, definitivamente puede hacer que sus recuerdos perduren".
La idea es que Alexa pueda imitar la voz de un ser querido fallecido usando menos de un minuto de grabación. Las reacciones en línea ya han encontrado que es "espeluznante", comparándolo con un episodio de Black Mirror. El propio Prasad dice que la IA ha llegado a un punto "donde nuestros sueños y la ciencia ficción se están convirtiendo en realidad". Muchas de esas películas de ciencia ficción no terminan demasiado bien.
Pero más allá del factor espeluznante, existe la posibilidad de que esta característica pueda ser mal utilizada al plantear preocupaciones éticas y de seguridad.
"Existe una pendiente resbaladiza real al usar los datos de personas fallecidas de una manera que es espeluznante por un lado, pero profundamente poco ético por el otro". porque nunca han considerado que esos rastros se usen de esa manera", Tama Leaver, profesora de estudios de Internet en la Universidad de Curtin en Australia, dijo el poste de washington. Leaver dice que podrías olvidar que estás hablando con un producto de Amazon si está usando la voz de un ser querido.
Amazon no proporcionó muchos detalles sobre su desarrollo, ni mencionó cuándo los usuarios podrían esperar que la función esté disponible.
Desafortunadamente, este no es el primer (ni el último) ejemplo de avances recientes en IA que causan preocupación. Recientemente, un empleado de Google afirmó que la empresa LaMDA AI era sensible, abriendo la puerta a la especulación sobre si esto es realmente así o no. Por supuesto, La IA de Google no es inteligente; más bien, hace un excelente trabajo convenciendo a otros de que es una persona real.