Что тебе нужно знать
- Ежегодная конференция Amazon по машинному обучению проходит в Лас-Вегасе с 21 по 24 июня.
- Недавно компания продемонстрировала Alexa, имитирующую голос умершего родственника.
- Эта функция в настоящее время находится в разработке, хотя Amazon не сообщила, когда ожидается, что она будет доступна на устройствах.
Нет никаких сомнений в том, что голосовой помощник Alexa от Amazon впечатляет и может быть очень полезным. Однако по мере того, как ИИ продолжает совершенствоваться, становится легче найти примеры того, как технология может заставить нас задуматься. Недавняя демонстрация Amazon Alexa, возможно, является одной из них.
В настоящее время компания проводит ежегодную конференцию по машинному обучению, автоматизации, роботам и космосу (re: MARS). Во время основного доклада второго дня Рохит Прасад, главный научный сотрудник Amazon по Alexa и искусственному интеллекту, продемонстрировал новая возможность, над которой работает компания, которая, по его словам, может «обеспечить длительную виртуальную отношения».
Воспроизводится видео, в котором ребенок спрашивает Алекса спикер если их бабушка сможет дочитать им сказку. Алекса соглашается, затем начинает читать ребенку сказку голосом их бабушки. Вы можете посмотреть видео ниже:
Хотя эта функция может показаться некоторым привлекательной, особенно вне контекста, Прасад предварил клип, упомянув, сколько людей потеряли близких во время продолжающейся пандемии COVID-19. «Хотя ИИ не может устранить эту боль утраты, он определенно может продлить их память».
Идея состоит в том, что Alexa сможет имитировать голос умершего любимого человека, используя менее минуты записи. Реакции в Интернете уже сочли его «жутким», сравнив его с эпизодом «Черного зеркала». Сам Прасад говорит, что ИИ достиг точки, «где наши мечты и научная фантастика становятся реальностью». Многие из этих фантастических фильмов заканчиваются не слишком хорошо.
Но помимо жуткого фактора существует вероятность того, что эта функция может быть использована не по назначению, создавая проблемы этики и безопасности.
«Там существует настоящий скользкий путь использования данных умерших людей способом, который, с одной стороны, просто жуткий, а с другой — глубоко неэтичный. потому что они никогда не считали, что эти следы могут использоваться таким образом», — Тама Ливер, профессор интернет-исследований в Университете Кертин в Австралии, сказал Вашингтон пост. Ливер говорит, что вы можете забыть, что разговариваете с продуктом Amazon, если он использует голос любимого человека.
Amazon не предоставил много подробностей о своей разработке и не упомянул, когда пользователи могут ожидать, что эта функция станет доступной.
К сожалению, это не первый (и не последний) пример недавних достижений ИИ, вызывающих беспокойство. Недавно сотрудник Google заявил, что компания LaMDA AI был разумным, открывая дверь для спекуляций относительно того, так ли это на самом деле. Конечно, ИИ Google не разумен; скорее, он отлично справляется с работой, убеждая других в том, что это реальный человек.