O que você precisa saber
- A conferência anual de aprendizado de máquina da Amazon acontece em Las Vegas de 21 a 24 de junho.
- A empresa recentemente demonstrou Alexa imitando a voz de um parente falecido.
- O recurso está atualmente em desenvolvimento, embora a Amazon não tenha informado quando espera que esteja disponível nos dispositivos.
Não há dúvida de que o assistente de voz Alexa da Amazon é impressionante e pode ser bastante útil. No entanto, à medida que a IA continua a melhorar, fica mais fácil encontrar exemplos de maneiras pelas quais a tecnologia pode nos fazer pensar. A recente demonstração do Alexa da Amazon é sem dúvida uma delas.
Atualmente, a empresa está hospedando sua conferência anual de aprendizado de máquina, automação, robôs e espaço (re: MARS). Durante a palestra do segundo dia, Rohit Prasad, cientista-chefe da Amazon para Alexa e IA, demonstrou uma nova habilidade na qual a empresa está trabalhando, uma que ele diz que pode "possibilitar relacionamentos".
Um vídeo é reproduzido com uma criança perguntando
alto-falante Alexa se a avó terminar de ler uma história para eles. Alexa concorda e começa a ler uma história para a criança na voz da avó. Você pode assistir ao vídeo abaixo:Embora o recurso possa parecer cativante para alguns, especialmente fora do contexto, Prasad iniciou o clipe mencionando quantas pessoas perderam entes queridos durante a pandemia de COVID-19 em andamento. "Embora a IA não possa eliminar a dor da perda, ela pode definitivamente fazer com que suas memórias durem."
A ideia é que Alexa seria capaz de imitar a voz de um ente querido falecido usando menos de um minuto de gravação. As reações online já o consideraram "assustador", comparando-o a um episódio de Black Mirror. O próprio Prasad diz que a IA atingiu um ponto "em que nossos sonhos e ficção científica estão se tornando realidade". Muitos desses filmes de ficção científica não terminam muito bem.
Mas, além do fator assustador, existe a possibilidade de que esse recurso seja mal utilizado enquanto apresenta preocupações éticas e de segurança.
“Existe uma verdadeira ladeira escorregadia de usar os dados de pessoas falecidas de uma maneira que é assustadora por um lado, mas profundamente antiética por outro. porque eles nunca consideraram esses rastros sendo usados dessa forma", Tama Leaver, professor de estudos de internet na Curtin University, na Austrália, contado The Washington Post. Leaver diz que você pode esquecer que está falando com um produto da Amazon se estiver usando a voz de um ente querido.
A Amazon não forneceu muitos detalhes sobre seu desenvolvimento, nem mencionou quando os usuários podem esperar que o recurso seja disponibilizado.
Infelizmente, este não é o primeiro (nem o último) exemplo de avanços recentes da IA que causam preocupação. Recentemente, um funcionário do Google afirmou que a empresa LaMDA AI era senciente, abrindo a porta para especulações sobre se esse é realmente o caso ou não. Claro, A IA do Google não é senciente; em vez disso, faz um excelente trabalho convencendo os outros de que é uma pessoa real.