Má digitální osobní asistent etické povinnosti?

Můj přítel se konečně připojil k řadám a koupil a Domovská stránka Google. Z velké části proto, že byly ve slevě, ale také proto, že viděla, jak moje žena a já příležitostně používáme ty naše a její zvědavost z ní nakonec dostala to nejlepší. V každém případě má nyní na svém konferenčním stolku malou robotickou AI, která jí může sdělit počasí nebo její rozvrh den, pusťte si hudbu na požádání a zapněte světlo na verandě pomocí hlasových příkazů a bavte se to. Předpokládám, že každý, kdo má Google Home resp Amazon Echo zařízení mělo podobnou fázi líbánek, než se stalo rutinou.

Měli bychom důvěřovat umělé inteligenci, že zavolá správným lidem?

Také ví, že jsem docela důvtipný, pokud jde o to, jak fungují „věci“ Google (její slova), a chtěla vědět, jestli by to mohlo policisté, protože si „mysleli“ (tentokrát jsou uvozovky ode mě), že byl spáchán trestný čin nebo nebezpečná situace hrát si. Dal jsem jí vědět, že to nejde a že pokud nerozpozná klíčové slovo, nic z toho nezpracuje ani nenahraje slyšel, ale byl bych opatrný a pokládal bych hloupé otázky, které by se mohly dostat do problémů zásada. Vypadala... zklamaný.

Více: Co skutečně znamená inteligentní reproduktor „Always Listening“?

Proč bys proboha chtěl, aby mohl hlásit cokoliv podezřelého, zeptal jsem se. Nevážíte si svého soukromí víc? Rychle odpověděla „ano, ale“ a pokračovala ve vysvětlení, že žije sama a byla by naprosto v pořádku, kdyby to dokázalo vyhodnotit potenciálně nebezpečnou situaci a zavolat nějakou dispečinku. Diskutovali jsme o výhodách a nevýhodách a naslouchali vzájemným argumentům – nakonec došlo na bezpečnost dětí jako u mnoha věcí – a přiznávám, že její zdůvodnění bylo pevné, i když nesouhlasím.

Nechci, aby malý přístroj, který sedí na stole, rozhodoval, zda potřebuje zavolat 911. Tečka, tečka. Nevěřím, že by to bylo dostatečně správné, ani nechci, aby mi toto rozhodnutí bylo odebráno, i když bych pokaždé neučinil správný hovor. Považuji se za poměrně inteligentního a schopného rychle se rozhodnout, i když vím, že někdy může být hovor špatný. Také si myslím, že by se dal vyvinout algoritmus, který by rozpoznal specifika a většinu času by také správně zavolal. Přesto stále nechci technologii, která nahradí můj kousek soukromí v mém vlastním domě bez ohledu na okolnosti.

Její argumenty, které znovu přiznám, že jsou rozumné, zasáhly nevkusná témata, jako je násilný partner nebo rodič a myšlenka scénáře domácí invaze. Místo, kde jsem se musel pozastavit, bylo, když se mě zeptala, jestli bych chtěl tuto funkci, když bude moje žena sama, nebo aby ji měly moje dcery. Snažím se být otevřený ve všech věcech, ale stále jsem manžel a otec a nemůžu si pomoct, abych byl trochu ochranářský, takže jsem musel přiznat, že bych to pak tolik nenáviděl.

Soukromí si cením nade vše ostatní, ale musím se pozastavit, pokud jde o členy mé rodiny.

Nejsem roztržitý – nemyslím si, že by digitální osobní asistent měl mít nějakou schopnost naslouchat jinak, než když zazní a zpracuje klíčové slovo. Chápu, že někdo v nesnázích nemusí být schopen požádat Google nebo Alexu, aby zavolali o pomoc, ale stále si myslím, že nemít tuto schopnost je menší zlo. Ale jak se technologie stávají stále osobnějšími, tyto typy konverzací je třeba vést. Zákonodárci a společnosti, které je produkují, to potřebují vymýtit, ale my je také potřeba diskutovat o tom, jak velký zásah by měla mít jakákoli chytrá elektronika v našich životech.

Současný stav mi vyhovuje a doufám v to žádný je vždy odpověď na tuto otázku. Jsem zvědavý, co si myslíš. Mělo by mít Google Home možnost zavolat policii a nahlásit zneužití? A co jiné situace, jako jsou diskuse o násilí? Větší otázkou může být, zda by člověk měl mít možnost zkontrolovat a nahlásit někoho, kdo je hledaný, protože zná naši identitu. Očekávám spoustu prudkých reakcí na tyto otázky – určitě jsem měl vlastní – ale doufejme, že můžeme také vést seriózní diskusi.

Mrkněte do komentářů a řekněte mi, co si myslíte.