Hva du trenger å vite
- Amazons årlige maskinlæringskonferanse finner sted i Las Vegas fra 21. juni til 24. juni.
- Selskapet demonstrerte nylig at Alexa etterlignet stemmen til en avdød slektning.
- Funksjonen er for tiden under utvikling, selv om Amazon ikke sa når den forventer at den vil være tilgjengelig på enheter.
Det er ingen tvil om at Amazons Alexa-stemmeassistent er imponerende og kan være ganske nyttig. Men ettersom AI fortsetter å forbedre seg, blir det lettere å finne eksempler på måter teknologien kan gi oss pause. Amazons nylige Alexa-demonstrasjon er uten tvil en av dem.
Selskapet er for tiden vertskap for sin årlige konferanse for maskinlæring, automatisering, roboter og rom (re: MARS). Under den andre dagen demonstrerte Rohit Prasad, Amazons hovedforsker for Alexa og AI, en ny evne som selskapet jobber med, en som han sier kan "aktivere varig virtuell forhold."
En video spilles av med et barn som spør Alexa høyttaler hvis bestemoren deres kan lese ferdig en historie for dem. Alexa er enig, og begynner så å lese en historie for ungen med bestemors stemme. Du kan se videoen nedenfor:
Selv om funksjonen kan virke kjærlig for noen, spesielt utenfor kontekst, innledet Prasad klippet med å nevne hvor mange mennesker som har mistet sine kjære gjennom den pågående COVID-19-pandemien. "Selv om AI ikke kan eliminere smerten ved tap, kan det definitivt få minnene deres til å vare."
Tanken er at Alexa skal kunne etterligne stemmen til en avdød kjære ved å bruke mindre enn et minutts opptak. Reaksjoner på nettet har allerede funnet ut at det er "skummelt", sammenlignet med en episode av Black Mirror. Prasad sier selv at AI har nådd et punkt «der våre drømmer og science fiction blir en realitet». Mange av disse science fiction-filmene ender ikke så godt.
Men utover den skumle faktoren, er det muligheten for at denne funksjonen kan misbrukes mens den utgjør etiske og sikkerhetsmessige bekymringer.
"Det er en skikkelig glattbakke der med å bruke avdødes data på en måte som både er skummel på den ene siden, men dypt uetisk på en annen side fordi de aldri har vurdert at sporene ble brukt på den måten," Tama Leaver, professor i internettstudier ved Curtin University i Australia, fortalte Washington Post. Leaver sier at du potensielt kan glemme at du snakker til et Amazon-produkt hvis det bruker stemmen til en du er glad i.
Amazon ga ikke mange detaljer om utviklingen, og nevnte heller ikke når brukere kan forvente at funksjonen blir tilgjengelig.
Dessverre er ikke dette det første (eller siste) eksemplet på nyere AI-fremskritt som skaper bekymring. Nylig hevdet en Google-ansatt at selskapets LaMDA AI var sansende, åpner døren for spekulasjoner om hvorvidt dette virkelig er tilfelle. Selvfølgelig, Googles AI er ikke sansende; snarere gjør den en utmerket jobb med å overbevise andre om at den er en faktisk person.