Har en digital personlig assistent etiske ansvar?

En af mine venner sluttede sig endelig til rækken og købte en Google Home. Hovedsageligt fordi de var på udsalg, men også fordi hun har set min kone og jeg bruge vores nogle gange, og hendes nysgerrighed endelig fik det bedste ud af hende. Under alle omstændigheder har hun nu en lille robot-AI på sit sofabord, der kan fortælle hende vejret eller hendes tidsplan for dagen, afspil musik efter behov, og tænd verandalyset ved hjælp af stemmekommando og har det sjovt med det. Jeg går ud fra, at alle der har en Google Home el Amazon Echo enheden havde en lignende bryllupsrejsefase, før den blev rutine.

Skal vi stole på, at en AI foretager det rigtige opkald til de rigtige mennesker?

Hun ved også, at jeg er ret kyndig, når det kommer til, hvordan Google "ting" fungerer (hendes ord) og ville vide, om det kunne kalde politiet, fordi den "troede" (denne gang er citaterne fra mig), at der var begået en forbrydelse eller en farlig situation kl. Spil. Jeg lod hende vide, at det ikke kunne, og at medmindre det genkendte et kommandoord, det ikke behandlede eller uploadede noget kunne høre, men jeg ville være forsigtig med at stille det dumme spørgsmål, der kunne få en selv i problemer bare på princip. Hun virkede... skuffet.

Mere: Hvad betyder en "Always Listening"-smarthøjttaler egentlig?

Hvorfor i alverden vil du have, at den skal kunne rapportere noget mistænkeligt, spurgte jeg. Værdsætter du ikke dit privatliv mere end det? Hun svarede hurtigt med et "ja, men" og fortsatte med at forklare, at hun boede alene og ville være helt i orden, hvis det kunne vurdere en potentielt farlig situation og kalde en slags udsendelse. Vi diskuterede fordele og ulemper og lyttede til hinandens argumenter - det kom til sidst til børns sikkerhed, som mange ting gør - og jeg indrømmer, at hendes begrundelse var solid, selvom jeg er uenig.

Jeg vil ikke have en lille gadget, der sidder på et bord, for at bestemme, om den skal ringe 911. Periode, punktum. Jeg stoler ikke på, at det ville være rigtigt nok af tiden, og jeg ønsker heller ikke, at den beslutning skal tages fra mig selv, selvom jeg ikke ville foretage det rigtige opkald hver gang. Jeg anser mig selv for at være ret intelligent og i stand til at foretage en hurtig vurdering, selvom jeg ved nogle gange, at det opkald kan være forkert. Jeg tror også, at der kunne udvikles en algoritme, der vil genkende detaljer og også foretage det rigtige opkald det meste af tiden. Ikke desto mindre ønsker jeg stadig ikke teknologi, der erstatter mit lille privatliv i mit eget hjem uanset omstændighederne.

Hendes argumenter, som jeg igen vil indrømme er sunde, rammer ubehagelige emner som en voldelig partner eller forælder og ideen om et scenarie for en invasion af hjemmet. Punktet, hvor jeg var nødt til at holde pause, var, da hun spurgte, om jeg ville have den funktion, når min kone var alene, eller for mine døtre at have. Jeg prøver at være åben i alle ting, men er stadig mand og far og kan ikke lade være med at være en smule beskyttende, så jeg måtte indrømme, at jeg ikke ville hade det så meget dengang.

Jeg værdsætter privatliv frem for alt andet, men jeg er nødt til at holde pause, når det kommer til mine familiemedlemmer.

Jeg er ikke splittet — jeg synes ikke, at en digital personlig assistent skal have nogen form for evne til at lytte med, bortset fra når et hotword høres og behandles. Jeg forstår, at en person i problemer måske ikke kan bede Google eller Alexa om at ringe efter hjælp, men jeg tror stadig, at det at ikke have evnen er det mindre onde. Men efterhånden som teknologien bliver mere og mere personlig, er det disse typer samtaler, der skal føres. Lovgivere og de virksomheder, der producerer dem, skal hash det ud, men vi også nødt til at diskutere, hvor meget indgriben enhver form for smart elektronik bør have i vores liv.

Jeg er okay med den nuværende tilstand og håber det ingen er altid svaret på det spørgsmål. Jeg er spændt på at høre, hvad du synes. Skal et Google Home kunne ringe til politiet og anmelde misbrug? Hvad med andre situationer som diskussioner om vold? Et større spørgsmål kan være, om man skal have mulighed for at tjekke og anmelde en eftersøgt, da den kender vores identitet. Jeg forventer masser af knæfaldende reaktioner på disse spørgsmål - jeg havde bestemt mine egne - men forhåbentlig kan vi også have en seriøs diskussion.

Tryk på kommentarerne og fortæl mig, hvad du synes.