Apakah asisten pribadi digital memiliki tanggung jawab etis?

Seorang teman saya akhirnya bergabung dengan barisan dan membeli a Beranda Google. Terutama karena mereka sedang diobral, tetapi juga karena dia melihat istri saya dan saya kadang-kadang menggunakan milik kami dan rasa ingin tahunya akhirnya menguasai dirinya. Bagaimanapun, dia sekarang memiliki AI robot kecil di meja kopinya yang dapat memberi tahu cuaca atau jadwalnya hari, putar musik sesuai permintaan, dan nyalakan lampu beranda menggunakan kekuatan perintah suara dan bersenang-senanglah dia. Saya menganggap semua orang yang memiliki Google Home atau Gema Amazon perangkat memiliki fase bulan madu yang serupa sebelum menjadi rutin.

Haruskah kita memercayai AI untuk melakukan panggilan yang tepat kepada orang yang tepat?

Dia juga tahu bahwa saya cukup paham tentang cara kerja "barang" Google (kata-katanya) dan ingin tahu apakah itu bisa memanggil polisi karena "berpikir" (kali ini kutipan dari saya) ada kejahatan yang dilakukan atau situasi berbahaya di bermain. Saya memberi tahu dia bahwa itu tidak bisa dan kecuali dia mengenali kata cepat, dia tidak memproses atau mengunggah apa pun bisa mendengar, tapi aku akan berhati-hati mengajukan pertanyaan bodoh yang mungkin membuat diri sendiri dalam masalah prinsip. Dia terlihat... kecewa.

Lebih lanjut: Apa yang sebenarnya dimaksud dengan speaker pintar "Selalu Mendengarkan"?

Mengapa Anda ingin itu dapat melaporkan sesuatu yang mencurigakan, saya bertanya. Apakah Anda tidak menghargai privasi Anda lebih dari itu? Dia dengan cepat menjawab dengan "ya, tapi" dan melanjutkan untuk menjelaskan bahwa dia tinggal sendiri dan akan baik-baik saja jika dapat menilai situasi yang berpotensi berbahaya dan memanggil semacam pengiriman. Kami membahas pro dan kontra dan mendengarkan argumen satu sama lain - akhirnya sampai pada keselamatan anak seperti banyak hal lainnya - dan saya akui, alasannya kuat, bahkan jika saya tidak setuju.

Saya tidak ingin gadget kecil yang duduk di atas meja memutuskan apakah perlu menelepon 911. Titik, berhenti total. Saya tidak percaya bahwa itu akan menjadi waktu yang tepat dan saya juga tidak ingin keputusan itu diambil dari diri saya sendiri, bahkan jika saya tidak membuat keputusan yang benar setiap saat. Saya menganggap diri saya cukup cerdas dan mampu membuat penilaian cepat meskipun saya tahu terkadang panggilan itu mungkin salah. Saya juga berpikir sebuah algoritme dapat dikembangkan yang akan mengenali hal-hal spesifik dan melakukan panggilan yang tepat di sebagian besar waktu. Namun demikian, saya tetap tidak menginginkan teknologi yang menggantikan sedikit privasi saya di rumah saya sendiri terlepas dari keadaannya.

Argumennya, yang sekali lagi akan saya akui masuk akal, mengenai topik yang tidak menyenangkan seperti pasangan atau orang tua yang kasar dan gagasan tentang skenario invasi rumah. Titik di mana saya harus berhenti sejenak adalah ketika dia bertanya apakah saya ingin fitur itu ketika istri saya sendirian atau untuk putri saya. Saya mencoba untuk berpikiran terbuka dalam segala hal tetapi saya masih seorang suami dan ayah dan tidak dapat menahan diri untuk menjadi sedikit protektif jadi saya harus mengakui bahwa saya tidak akan terlalu membencinya saat itu.

Saya menghargai privasi di atas segalanya, tetapi saya harus berhenti ketika menyangkut anggota keluarga saya.

Saya tidak sobek - saya tidak berpikir bahwa asisten pribadi digital harus memiliki kemampuan apa pun untuk mendengarkan selain saat kata cepat didengar dan diproses. Saya memahami bahwa seseorang yang bermasalah mungkin tidak dapat meminta Google atau Alexa untuk meminta bantuan, tetapi saya masih berpikir bahwa tidak memiliki kemampuan adalah kejahatan yang lebih kecil. Tetapi karena teknologi menjadi semakin pribadi, ini adalah jenis percakapan yang perlu dilakukan. Pembuat undang-undang dan perusahaan yang memproduksinya perlu membahasnya, tapi Kami juga perlu membahas seberapa besar intervensi yang harus dilakukan oleh elektronik pintar apa pun dalam hidup kita.

Saya baik-baik saja dengan keadaan saat ini dan berharap itu tidak ada selalu menjadi jawaban atas pertanyaan itu. Saya ingin tahu apa yang Anda pikirkan. Haruskah Beranda Google dapat memanggil polisi dan melaporkan penyalahgunaan? Bagaimana dengan situasi lain seperti diskusi tentang kekerasan? Pertanyaan yang lebih besar mungkin jika seseorang harus memiliki kemampuan untuk memeriksa dan melaporkan seseorang yang diinginkan karena mengetahui identitas kita. Saya mengharapkan banyak reaksi spontan terhadap pertanyaan-pertanyaan ini - saya pasti punya sendiri - tapi mudah-mudahan, kita juga bisa berdiskusi serius.

Tekan komentar dan beri tahu saya pendapat Anda.