Un assistente personale digitale ha responsabilità etiche?

Un mio amico si è finalmente unito ai ranghi e ha acquistato un Google Casa. In gran parte perché erano in saldo, ma anche perché ha visto mia moglie ed io usare i nostri occasionalmente e la sua curiosità ha finalmente avuto la meglio su di lei. In ogni caso, ora ha una piccola intelligenza artificiale robotica sul suo tavolino da caffè che può dirle il tempo o il suo programma il giorno, riproduci musica su richiesta e accendi la luce del portico usando il potere del comando vocale e con cui si diverte Esso. Presumo che tutti coloro che hanno un Google Home o Amazon Eco il dispositivo ha avuto una fase di luna di miele simile prima che diventasse routine.

Dovremmo fidarci di un'intelligenza artificiale per fare la chiamata giusta alle persone giuste?

Sa anche che sono abbastanza esperto quando si tratta di come funzionano le "cose" di Google (parole sue) e voleva sapere se poteva chiamare il poliziotti perché "pensava" (questa volta le virgolette sono mie) che fosse stato commesso un crimine o una situazione pericolosa a giocare. Le ho fatto sapere che non poteva e che, a meno che non riconoscesse una hotword, non elaborava né caricava nulla potrebbe sentire, ma starei attento a fargli domande stupide che potrebbero metterti nei guai solo su principio. Lei sembrava... deluso.

Altro: cosa significa veramente un altoparlante intelligente "Always Listening"?

Perché diavolo vorresti che fosse in grado di segnalare qualcosa di sospetto, ho chiesto. Non apprezzi di più la tua privacy? Ha rapidamente risposto con un "sì, ma" e ha continuato a spiegare che viveva da sola e che sarebbe stato perfettamente a posto se potesse valutare una situazione potenzialmente pericolosa e chiamare una sorta di spedizione. Abbiamo discusso dei pro e dei contro e ascoltato le reciproche argomentazioni - alla fine è arrivato alla sicurezza dei bambini come fanno molte cose - e lo ammetto, la sua logica era solida, anche se non sono d'accordo.

Non voglio che un piccolo gadget che si trova su un tavolo decida se deve chiamare il 911. Punto, punto. Non mi fido che sarebbe giusto abbastanza spesso né voglio che quella decisione mi venga tolta, anche se non farei la scelta giusta ogni volta. Mi considero abbastanza intelligente e in grado di esprimere un rapido giudizio anche se so che a volte quella chiamata potrebbe essere sbagliata. Penso anche che si potrebbe sviluppare un algoritmo in grado di riconoscere le specifiche e di effettuare anche la chiamata giusta per la maggior parte del tempo. Tuttavia, continuo a non volere una tecnologia che sostituisca la mia piccola privacy a casa mia, indipendentemente dalle circostanze.

Le sue argomentazioni, che ammetterò ancora una volta sono solide, toccano argomenti sgradevoli come un partner o un genitore violento e l'idea di uno scenario di invasione domestica. Il punto in cui ho dovuto fermarmi è stato quando mi ha chiesto se mi sarebbe piaciuto quel film quando mia moglie era sola o per le mie figlie. Cerco di essere di mentalità aperta in tutte le cose, ma sono ancora un marito e un padre e non posso fare a meno di essere un po' protettivo, quindi ho dovuto ammettere che allora non l'avrei odiato così tanto.

Apprezzo la privacy sopra ogni altra cosa, ma devo fare una pausa quando si tratta dei membri della mia famiglia.

Non sono combattuto: non penso che un assistente personale digitale dovrebbe avere alcun tipo di capacità di ascoltare se non quando una hotword viene ascoltata ed elaborata. Capisco che qualcuno in difficoltà potrebbe non essere in grado di chiedere a Google o Alexa di chiedere aiuto, ma continuo a pensare che non avere la capacità sia il male minore. Ma man mano che la tecnologia diventa sempre più personale, questi sono i tipi di conversazioni che devono essere tenuti. I legislatori e le aziende che li producono devono risolverlo, ma Noi anche bisogno di discutere quanto intervento dovrebbe avere qualsiasi tipo di elettronica intelligente nelle nostre vite.

Sono d'accordo con lo stato attuale e lo spero nessuno è sempre la risposta a questa domanda. Sono curioso di sentire cosa ne pensi. Google Home dovrebbe essere in grado di chiamare la polizia e segnalare abusi? Che dire di altre situazioni come discussioni sulla violenza? Una domanda più grande potrebbe essere se si dovrebbe avere la possibilità di controllare e denunciare qualcuno che è ricercato poiché conosce la nostra identità. Mi aspetto molte reazioni istintive a queste domande - certamente ho avuto le mie - ma si spera che possiamo anche avere una discussione seria.

Clicca sui commenti e dimmi cosa ne pensi.