Ima li digitalni osobni asistent etičke odgovornosti?

Moj prijatelj se konačno pridružio redovima i kupio a Google Home. Uglavnom zato što su bile na sniženju, ali i zato što je vidjela da moja supruga i ja povremeno koristimo naše i njezina je znatiželja konačno nadvladala nju. U svakom slučaju, sada ima malu robotsku umjetnu inteligenciju na svom stoliću za kavu koja joj može reći vrijeme ili njezin raspored za dan, pušta glazbu na zahtjev i uključuje svjetlo na trijemu pomoću glasovne naredbe i s kojom se zabavlja to. Pretpostavljam da svi koji imaju Google Home ili Amazon Echo uređaj je imao sličnu fazu medenog mjeseca prije nego što je postao rutina.

Trebamo li vjerovati umjetnoj inteligenciji da će uputiti pravi poziv pravim ljudima?

Ona također zna da sam prilično pametan kada je riječ o tome kako Google "stvari" funkcionira (njezine riječi) i htjela je znati može li to nazvati policajci jer je "mislio" (ovaj put citati su od mene) da je počinjen zločin ili opasna situacija na igra. Dao sam joj do znanja da ne može i da ništa ne obrađuje niti učitava ako ne prepozna ključnu riječ mogao čuti, ali bio bih oprezan i postavljao glupa pitanja koja bi se mogla dovesti u nevolju načelo. Činila se... razočaran.

Više: Što zapravo znači "Always Listening" pametni zvučnik?

Zašto biste, zaboga, htjeli da može prijaviti bilo što sumnjivo, pitao sam. Ne cijenite li svoju privatnost više od toga? Brzo je odgovorila s "da, ali" i nastavila objašnjavati da živi sama i da bi bilo sasvim u redu ako može procijeniti potencijalno opasnu situaciju i pozvati neku vrstu dispečera. Razgovarali smo o prednostima i nedostacima i slušali argumente jedno drugoga - na kraju je došlo do sigurnosti djeteta kao i mnoge druge stvari - i priznajem, njezino je obrazloženje bilo čvrsto, čak i ako se ne slažem.

Ne želim da mala naprava koja sjedi na stolu odlučuje treba li nazvati hitnu. Točka, točka. Ne vjerujem da bi bilo dovoljno vremena niti želim da se ta odluka oduzme od mene, čak i ako ne bih svaki put napravio pravu odluku. Smatram se prilično inteligentnim i sposobnim donijeti brzu prosudbu iako znam da ponekad ta odluka može biti pogrešna. Također mislim da bi se mogao razviti algoritam koji bi prepoznao specifičnosti i napravio pravi poziv većinu vremena. Ipak, još uvijek ne želim tehnologiju koja nadomješta moj mali dio privatnosti u vlastitom domu bez obzira na okolnosti.

Njezini argumenti, za koje ću još jednom priznati da su zdravi, pogađaju neugodne teme poput nasilnog partnera ili roditelja i ideju scenarija invazije na dom. Točka u kojoj sam morao zastati bila je kada me je pitala bih li želio tu značajku kada je moja žena sama ili da je imaju moje kćeri. Pokušavam biti otvoren u svemu, ali još uvijek sam muž i otac i ne mogu si pomoći da ne budem zaštitnički nastrojen pa sam morao priznati da mi to tada ne bi bilo toliko mrsko.

Cijenim privatnost iznad svega, ali moram zastati kada su u pitanju članovi moje obitelji.

Nisam rastrgan — ne mislim da bi digitalni osobni asistent trebao imati ikakvu mogućnost slušanja osim kada se vruća riječ čuje i obradi. Razumijem da netko u nevolji možda neće moći zatražiti od Googlea ili Alexe da pozovu pomoć, ali i dalje mislim da je nemanje mogućnosti manje zlo. Ali kako tehnologija postaje sve osobnija, ovo su vrste razgovora koje je potrebno voditi. Zakonodavci i tvrtke koje ih proizvode moraju to riješiti, ali mi također moramo razgovarati o tome koliko bi intervencija bilo koja vrsta pametne elektronike trebala imati u našim životima.

U redu sam s trenutnim stanjem i nadam se tome nikakav uvijek je odgovor na to pitanje. Zanima me što mislite. Treba li Google Home moći nazvati policiju i prijaviti zlostavljanje? Što je s drugim situacijama poput rasprava o nasilju? Veće pitanje može biti treba li imati mogućnost provjere i prijave nekoga tko se traži jer zna naš identitet. Očekujem dosta reakcija na ova pitanja - ja sam svakako imao svoje - ali nadam se da možemo imati i ozbiljnu raspravu.

Pritisnite komentare i recite mi što mislite.