Google melakukan banyak hal bodoh. Semua perusahaan raksasa adalah sama dalam hal itu. Tapi butuh usaha khusus untuk melakukan sesuatu yang benar-benar mengerikan. Di situlah Proyek Nimbus Google masuk dalam spektrum.
Project Nimbus adalah upaya bersama Google, Amazon, dan pemerintah Israel yang menyediakan kemampuan pengawasan futuristik melalui penggunaan model pembelajaran mesin tingkat lanjut. Suka atau tidak suka, itu adalah bagian dari masa depan keamanan negara, dan tidak lebih buruk dari banyak proyek serupa lainnya. Banyak dari kita bahkan menggunakan teknologi serupa di dalam dan sekitar rumah kita.
Saat segalanya menjadi gelap dan buruk, inilah yang dikatakan Google tentang kemampuan Project Nimbus menggunakan teknologi perusahaan:
Dokumen pelatihan Nimbus menekankan “kemampuan ‘wajah, tengara wajah, deteksi emosi’ dari Google Cloud Vision API”, dan dalam satu pelatihan Nimbus webinar, seorang insinyur Google mengonfirmasi untuk pelanggan Israel bahwa mungkin untuk “memproses data melalui Nimbus untuk menentukan apakah seseorang berbohong".
Ya, perusahaan yang memberi kami algoritme YouTube yang sangat buruk sekarang ingin menjual algoritme untuk menentukan apakah seseorang berbohong kepada polisi. Biarkan itu meresap. Ini adalah ilmu yang Microsoft telah ditinggalkan karena masalah bawaannya.
Sayangnya, Google sangat tidak setuju dengan hal itu membalas orang-orang di perusahaan yang berbicara menentangnya.
Tidak ada alasan bagus untuk menyediakan teknologi semacam ini kepada pemerintah mana pun dalam skala apa pun.
Saya tidak akan masuk terlalu jauh ke dalam politik yang dimainkan di sini, tetapi seluruh proyek dirancang agar pemerintah Israel dapat menyembunyikan apa yang sedang dilakukannya. Menurut Jack Poulson, mantan kepala Keamanan Google Enterprise, salah satu tujuan utama Project Nimbus adalah "mencegah pemerintah Jerman dari meminta data yang berkaitan dengan Pasukan Pertahanan Israel untuk Pengadilan Kriminal Internasional" menurut ke Intersepsi. (Israel dikatakan melakukan kejahatan terhadap kemanusiaan terhadap warga Palestina, menurut interpretasi beberapa orang terhadap undang-undang tersebut.)
Sungguh, bagaimanapun, tidak masalah bagaimana perasaan Anda tentang konflik antara Israel dan Palestina. Tidak ada alasan bagus untuk menyediakan teknologi semacam ini kepada pemerintah mana pun dalam skala apa pun. Melakukan hal itu membuat Google kejahatan.
Kemampuan Nimbus yang seharusnya menakutkan, meskipun Cloud Vision API Google 100% benar, 100% selalu. Bayangkan kamera badan polisi yang menggunakan AI untuk membantu memutuskan apakah akan menuntut dan menangkap Anda atau tidak. Semuanya menjadi menakutkan ketika Anda mempertimbangkan seberapa sering sistem visi pembelajaran mesin membuat kesalahan, meskipun.
Ini bukan hanya masalah Google. Yang perlu dilakukan hanyalah melihat moderasi konten di YouTube, Facebook, atau Twitter. 90% dari pekerjaan awal dilakukan oleh komputer menggunakan algoritma moderasi yang terlalu sering membuat keputusan yang salah. Namun, Project Nimbus akan melakukan lebih dari sekadar menghapus komentar tajam Anda — itu bisa membuat Anda kehilangan nyawa.
Tidak ada perusahaan yang memiliki bisnis yang menyediakan AI semacam ini sampai teknologinya matang ke keadaan yang tidak pernah salah, dan itu tidak akan pernah terjadi.
Dengar, aku semua untuk menemukan orang jahat dan melakukan sesuatu tentang mereka seperti kebanyakan orang. Saya memahami bahwa penegakan hukum, apakah departemen kepolisian setempat atau IDF, adalah kejahatan yang diperlukan. Menggunakan AI untuk melakukannya adalah tidak perlu kejahatan.
Saya tidak mengatakan Google harus tetap menulis perangkat lunak yang mendukung ponsel yang Anda sukai dan tidak mencoba untuk bercabang. Saya hanya mengatakan ada cara yang benar dan cara yang salah — Google memilih cara yang salah di sini, dan sekarang macet karena persyaratan perjanjian tidak mengizinkan Google untuk berhenti berpartisipasi.
Anda harus membentuk opini Anda sendiri dan jangan pernah mendengarkan seseorang di internet yang memiliki kotak sabun. Tetapi Anda juga harus mengetahui dengan baik ketika sebuah perusahaan yang didirikan berdasarkan prinsip "Jangan Menjadi Jahat" berubah menjadi lingkaran penuh dan menjadi kejahatan yang diperingatkannya kepada kita.