Ce trebuie sa stii
- Conferința anuală de învățare automată a Amazon are loc în Las Vegas în perioada 21 – 24 iunie.
- Compania a demonstrat recent ca Alexa imită vocea unei rude decedate.
- Funcția este în prezent în dezvoltare, deși Amazon nu a spus când se așteaptă să fie disponibilă pe dispozitive.
Nu există nicio îndoială că asistentul vocal Alexa de la Amazon este impresionant și poate fi destul de util. Cu toate acestea, pe măsură ce AI continuă să se îmbunătățească, devine mai ușor să găsim exemple de moduri prin care tehnologia ne-ar putea face o pauză. Demonstrația recentă a Amazon Alexa este, fără îndoială, una dintre ele.
Compania găzduiește în prezent conferința anuală pentru învățare automată, automatizare, roboți și spațiu (re: MARS). În timpul discursului principal de a doua zi, Rohit Prasad, om de știință șef al Amazon pentru Alexa și AI, a demonstrat o noua abilitate la care lucrează compania, una despre care spune el poate „permite virtualul de durată relații.”
Se joacă un videoclip cu un copil care le întreabă
Difuzor Alexa dacă bunica le poate termina de citit o poveste. Alexa este de acord, apoi începe să-i citească o poveste copilului cu vocea bunicii lor. Puteți urmări videoclipul de mai jos:Deși caracteristica poate părea drăgălașă pentru unii, mai ales în afara contextului, Prasad a prefațat clipul menționând câți oameni și-au pierdut persoane dragi în timpul pandemiei de COVID-19. „Deși AI nu poate elimina această durere a pierderii, cu siguranță le poate face amintirile să dureze.”
Ideea este că Alexa ar putea să imite vocea unei persoane dragi decedate folosind mai puțin de un minut de înregistrare. Reacțiile online au găsit deja că este „înfiorător”, comparând-o cu un episod din Black Mirror. Prasad spune însuși că AI a ajuns într-un punct „în care visele noastre și science fiction devin realitate”. Multe dintre acele filme științifico-fantastice nu se termină prea bine.
Dar dincolo de factorul înfiorător, există posibilitatea ca această caracteristică să fie utilizată greșit în timp ce ridică preocupări etice și de securitate.
„Există o pantă foarte alunecoasă în utilizarea datelor persoanelor decedate într-un mod care este atât înfiorător pe de o parte, dar profund lipsit de etică pe de altă parte. pentru că nu s-au gândit niciodată că acele urme sunt folosite în acest fel”, Tama Leaver, profesor de studii pe internet la Universitatea Curtin din Australia, spuse The Washington Post. Leaver spune că ai putea uita că vorbești cu un produs Amazon dacă folosește vocea unei persoane dragi.
Amazon nu a oferit multe detalii despre dezvoltarea sa și nici nu a menționat când utilizatorii s-ar putea aștepta ca funcția să devină disponibilă.
Din păcate, acesta nu este primul (sau ultimul) exemplu de progrese recente ale AI care provoacă îngrijorare. Recent, un angajat Google a susținut că al companiei LaMDA AI era sensibil, deschizând ușa speculațiilor cu privire la dacă acesta este sau nu într-adevăr cazul. Desigur, AI-ul Google nu este sensibil; mai degrabă, face o treabă excelentă convingându-i pe alții că este o persoană reală.