Har en digital personlig assistent etisk ansvar?

En venn av meg ble endelig med i rekkene og kjøpte en Google Home. Stort sett fordi de var på salg, men også fordi hun har sett min kone og jeg bruke vår av og til, og nysgjerrigheten hennes endelig fikk det beste ut av henne. I alle fall har hun nå en liten robot-AI på salongbordet som kan fortelle henne været eller tidsplanen hennes for dagen, spill musikk på forespørsel, og slå på verandalyset ved å bruke kraften til stemmekommando og har det gøy med den. Jeg antar at alle som har en Google Home eller Amazon Echo enheten hadde en lignende bryllupsreisefase før den ble rutine.

Bør vi stole på en AI for å ringe de riktige personene?

Hun vet også at jeg er ganske kunnskapsrik når det kommer til hvordan Google "ting" fungerer (hennes ord) og ville vite om det kunne kalle politiet fordi de "trodde" (denne gangen er sitatene fra meg) at det var en forbrytelse som ble begått eller en farlig situasjon kl. spille. Jeg ga henne beskjed om at det ikke kunne, og at med mindre det gjenkjente et kommandoord, ble det ikke behandlet eller lastet opp noe kunne høre, men jeg ville være forsiktig med å stille dumme spørsmål som kan få en selv i trøbbel bare på prinsipp. Hun virket... skuffet.

Mer: Hva betyr egentlig en "Always Listening"-smarthøyttaler?

Hvorfor i all verden vil du at den skal kunne rapportere noe mistenkelig, spurte jeg. Verdsetter du ikke personvernet ditt mer enn det? Hun svarte raskt med et "ja, men" og fortsatte med å forklare at hun bodde alene og ville være helt greit hvis det kunne vurdere en potensielt farlig situasjon og ringe en slags utsending. Vi diskuterte fordeler og ulemper og lyttet til hverandres argumenter - det kom til slutt til barnesikkerhet som mange ting gjør - og jeg innrømmer at begrunnelsen hennes var solid, selv om jeg er uenig.

Jeg vil ikke ha en liten dings som sitter på et bord for å bestemme om den må ringe 911. Punktum, punktum. Jeg stoler ikke på at det ville være riktig nok av tiden, og jeg vil heller ikke at den avgjørelsen skal tas fra meg selv, selv om jeg ikke ville tatt den riktige samtalen hver gang. Jeg anser meg selv for å være ganske intelligent og i stand til å foreta en rask vurderingssamtale, selv om jeg vet noen ganger at samtalen kan være feil. Jeg tror også en algoritme kan utvikles som vil gjenkjenne spesifikke detaljer og foreta den riktige samtalen mesteparten av tiden også. Likevel vil jeg fortsatt ikke ha teknologi som erstatter mitt lille privatliv i mitt eget hjem uavhengig av omstendighetene.

Argumentene hennes, som jeg nok en gang skal innrømme er forsvarlige, treffer ubehagelige emner som en voldelig partner eller forelder og ideen om et scenario med hjemmeinvasjon. Poenget der jeg måtte ta en pause var da hun spurte om jeg ville like den funksjonen når min kone var alene eller for døtrene mine å ha. Jeg prøver å være fordomsfri i alle ting, men er fortsatt ektemann og far og kan ikke la være å være litt beskyttende så jeg måtte innrømme at jeg ikke ville hate det like mye da.

Jeg verdsetter privatliv fremfor alt annet, men jeg må ta en pause når det gjelder familiemedlemmene mine.

Jeg er ikke revet med — jeg synes ikke at en digital personlig assistent skal ha noen form for evne til å lytte med annet enn når et kommandoord blir hørt og behandlet. Jeg forstår at noen i trøbbel kanskje ikke kan be Google eller Alexa om å ringe etter hjelp, men jeg tror fortsatt at det å ikke ha evnen er det minste onde. Men etter hvert som teknologien blir mer og mer personlig, er det disse typene samtaler som må føres. Lovgivere og selskapene som produserer dem må hash det ut, men vi trenger også å diskutere hvor mye intervensjon enhver form for smart elektronikk bør ha i livene våre.

Jeg er OK med den nåværende tilstanden og håper det ingen er alltid svaret på det spørsmålet. Jeg er nysgjerrig på å høre hva du synes. Bør en Google Home kunne ringe politiet og rapportere overgrep? Hva med andre situasjoner som diskusjoner om vold? Et større spørsmål kan være om man skal ha mulighet til å sjekke og rapportere noen som er etterlyst siden den kjenner vår identitet. Jeg forventer mange knekast-reaksjoner på disse spørsmålene - jeg hadde absolutt mine egne - men forhåpentligvis kan vi ha en seriøs diskusjon også.

Trykk på kommentarene og fortell meg hva du synes.