Apa yang perlu Anda ketahui
- Konferensi pembelajaran mesin tahunan Amazon berlangsung di Las Vegas dari 21 Juni hingga 24 Juni.
- Perusahaan baru-baru ini mendemonstrasikan Alexa meniru suara kerabat yang telah meninggal.
- Fitur tersebut saat ini sedang dalam pengembangan, meskipun Amazon tidak mengatakan kapan akan tersedia di perangkat.
Tidak ada keraguan bahwa asisten suara Amazon Alexa sangat mengesankan dan bisa sangat membantu. Namun, karena AI terus meningkat, menjadi lebih mudah untuk menemukan contoh cara teknologi dapat membuat kita berhenti. Demonstrasi Alexa baru-baru ini dari Amazon bisa dibilang salah satunya.
Perusahaan saat ini mengadakan konferensi tahunannya untuk Machine learning, Automation, Robots, and Space (re: MARS). Selama keynote hari kedua, Rohit Prasad, kepala ilmuwan Amazon untuk Alexa dan AI, mendemonstrasikan a kemampuan baru yang sedang dikerjakan perusahaan, yang menurutnya dapat "memungkinkan virtual yang bertahan lama hubungan."
Sebuah video diputar dengan seorang anak bertanya kepada mereka
Pembicara Alexa jika nenek mereka bisa selesai membacakan cerita untuk mereka. Alexa setuju, lalu mulai membacakan cerita untuk anak itu dengan suara neneknya. Anda dapat menonton video di bawah ini:Sementara fitur tersebut mungkin tampak menawan bagi sebagian orang, terutama di luar konteks, Prasad mengawali klip tersebut dengan menyebutkan berapa banyak orang yang kehilangan orang yang dicintai selama pandemi COVID-19 yang sedang berlangsung. "Meskipun AI tidak bisa menghilangkan rasa sakit kehilangan itu, itu pasti bisa membuat ingatan mereka bertahan lama."
Idenya adalah bahwa Alexa akan dapat meniru suara orang yang dicintai yang telah meninggal menggunakan rekaman kurang dari satu menit. Reaksi online telah menganggapnya "menyeramkan", membandingkannya dengan episode Black Mirror. Prasad sendiri mengatakan bahwa AI telah mencapai titik "di mana impian dan fiksi ilmiah kita menjadi kenyataan". Banyak dari film fiksi ilmiah itu tidak berakhir dengan baik.
Namun di luar faktor menyeramkan, ada kemungkinan fitur ini dapat disalahgunakan sambil menimbulkan masalah etika dan keamanan.
"Ada lereng yang sangat licin di sana untuk menggunakan data orang yang sudah meninggal dengan cara yang sama-sama menyeramkan di satu sisi, tetapi sangat tidak etis di sisi lain. karena mereka tidak pernah menganggap jejak itu digunakan dengan cara itu," Tama Leaver, seorang profesor studi internet di Curtin University di Australia, diberi tahu The Washington Post. Leaver mengatakan bahwa Anda berpotensi lupa bahwa Anda sedang berbicara dengan produk Amazon jika menggunakan suara orang yang Anda cintai.
Amazon tidak memberikan banyak detail tentang pengembangannya, juga tidak menyebutkan kapan pengguna mengharapkan fitur tersebut tersedia.
Sayangnya, ini bukan contoh pertama (atau terakhir) dari kemajuan AI baru-baru ini yang menimbulkan kekhawatiran. Baru-baru ini, seorang karyawan Google mengklaim bahwa perusahaan itu LaMDA AI hidup, membuka pintu spekulasi, apakah ini benar-benar terjadi atau tidak. Tentu saja, AI Google tidak hidup; sebaliknya, itu berhasil meyakinkan orang lain bahwa itu adalah orang yang sebenarnya.