Какво трябва да знаете
- Годишната конференция на Amazon за машинно обучение се провежда в Лас Вегас от 21 до 24 юни.
- Компанията наскоро демонстрира, че Alexa имитира гласа на починал роднина.
- Функцията в момента е в процес на разработка, въпреки че Amazon не каза кога очаква да бъде достъпна на устройства.
Няма съмнение, че гласовият асистент Alexa на Amazon е впечатляващ и може да бъде доста полезен. Въпреки това, тъй като AI продължава да се подобрява, става по-лесно да се намерят примери за начини, по които технологията може да ни накара да спрем. Неотдавнашната демонстрация на Alexa на Amazon е може би една от тях.
В момента компанията е домакин на годишната си конференция за машинно обучение, автоматизация, роботи и космос (re: MARS). По време на основната бележка от втория ден Рохит Прасад, главен учен на Amazon за Alexa и AI, демонстрира нова способност, върху която компанията работи, която според него може да „позволи трайно виртуално взаимоотношения."
Възпроизвежда се видеоклип с дете, което пита своите
Алекса високоговорител ако баба им може да им прочете приказка. Алекса се съгласява, след което започва да чете приказка на детето с гласа на баба им. Можете да гледате видеоклипа по-долу:Въпреки че функцията може да изглежда привлекателна за някои, особено извън контекста, Прасад предшества клипа, като спомена колко много хора са загубили близки по време на продължаващата пандемия COVID-19. „Въпреки че изкуственият интелект не може да премахне тази болка от загубата, той определено може да направи спомените им трайни.“
Идеята е Alexa да може да имитира гласа на починал близък, използвайки по-малко от минута запис. Реакциите онлайн вече го намериха за "зловещ", сравнявайки го с епизод от Black Mirror. Самият Прасад казва, че AI е достигнал точка, "където нашите мечти и научна фантастика се превръщат в реалност". Много от тези научнофантастични филми не завършват много добре.
Но отвъд зловещия фактор, има възможност тази функция да бъде злоупотребена, като същевременно създава етични проблеми и проблеми със сигурността.
„Има наистина хлъзгав наклон на използването на данни на починали хора по начин, който е просто зловещ от една страна, но дълбоко неетичен от друга защото те никога не са смятали, че тези следи се използват по този начин", Тама Лийвър, професор по интернет изследвания в университета Къртин в Австралия, каза Вашингтон пост. Лийвър казва, че е възможно да забравите, че говорите с продукт на Amazon, ако той използва гласа на любим човек.
Amazon не предостави много подробности за неговото развитие, нито спомена кога потребителите може да очакват функцията да стане достъпна.
За съжаление, това не е първият (или последният) пример за скорошни подобрения на AI, които предизвикват безпокойство. Наскоро служител на Google заяви, че на компанията LaMDA AI беше разумен, отваряйки вратата за спекулации дали това наистина е така или не. Разбира се, AI на Google не е разумен; по-скоро върши отлична работа, като убеждава другите, че е истински човек.