Google çok aptalca şeyler yapıyor. Bütün dev şirketler bu konuda aynı. Ama gerçekten korkunç bir şey yapmak özel bir çaba gerektirir. Google'ın Project Nimbus'unun spektruma girdiği yer burasıdır.
Project Nimbus, Google, Amazon ve İsrail hükümetinin, gelişmiş makine öğrenimi modellerinin kullanımı yoluyla fütürist gözetleme yetenekleri sağlayan ortak bir çabasıdır. Beğenin ya da beğenmeyin, bu, devlet güvenliğinin geleceğinin bir parçası ve diğer birçok benzer projeden daha korkunç değil. Hatta çoğumuz benzer teknolojiyi kullanıyoruz evlerimizin içinde ve çevresinde.
İşlerin karanlık ve çirkin hale geldiği noktada, Google, Project Nimbus'un şirketin teknolojisini kullanan yetenekleri hakkında şunları söylüyor:
Nimbus eğitim belgeleri, "Google'ın Cloud Vision API'sinin" yüzler, mimik işaretleri, duygular "algılama yeteneklerini" vurgular ve bir Nimbus eğitiminde web semineri olan bir Google mühendisi, İsrailli bir müşteri için "bir kişinin başka biri olup olmadığını belirlemek için Nimbus aracılığıyla verileri işlemenin" mümkün olacağını doğruladı. uzanmak".
Evet, bize son derece kötü YouTube algoritmalarını veren şirket, şimdi birinin polise yalan söyleyip söylemediğini belirlemek için algoritmalar satmak istiyor. Batmasına izin ver. Bu bir bilim ki Microsoft vazgeçti doğuştan getirdiği sorunlar nedeniyle.
Ne yazık ki, Google o kadar aynı fikirde değil ki, şirketteki insanlara karşı misillemede bulunur buna karşı çıkanlar.
Bu tür bir teknolojiyi herhangi bir ölçekte herhangi bir hükümete sağlamak için iyi bir neden yoktur.
Burada oynanan siyasete fazla girmeyeceğim, ancak tüm proje, İsrail hükümetinin yaptıklarını gizleyebilmesi için tasarlandı. Google Enterprise'ın eski Güvenlik başkanı Jack Poulson'a göre, Nimbus Projesi'nin ana hedeflerinden biri " Alman hükümetinin Uluslararası Ceza Mahkemesi için İsrail Savunma Kuvvetlerine ilişkin verileri talep etmesinden" ile Kesmek. (Bazılarının yasalara ilişkin yorumlarına göre, İsrail'in Filistinlilere karşı insanlığa karşı suçlar işlediği söyleniyor.)
Gerçekten de, İsrail ile Filistin arasındaki çatışma hakkında ne düşündüğünüzün bir önemi yok. Bu tür bir teknolojiyi herhangi bir ölçekte herhangi bir hükümete sağlamak için iyi bir neden yoktur. Bunu yapmak, Google'ı fenalık.
Google'ın Cloud Vision API'si her zaman %100 doğru olsa bile, Nimbus'un sözde yetenekleri korkutucu. Sizi suçlayıp tutuklamamaya karar vermek için AI kullanan polis vücut kameralarını hayal edin. Ne sıklıkta düşündüğünüzü düşündüğünüzde her şey ürkütücü olur. makine öğrenimi görüş sistemleri işleri yanlış anlıyor, Yine de.
Bu yalnızca bir Google sorunu değil. Tek yapılması gereken YouTube, Facebook veya Twitter'da içerik denetlemeye bakmak. İlk işin %90'ı, çok sık yanlış kararlar veren denetleme algoritmaları kullanan bilgisayarlar tarafından yapılır. Nimbus Projesi, alaycı yorumunuzu silmekle kalmaz, hayatınıza mal olabilir.
Hiçbir şirketin, teknoloji asla yanlış olmadığı ve asla olmayacağı bir duruma gelene kadar bu tür bir yapay zeka sağlama işi yoktur.
Bak, ben de kötü adamları bulup onlar hakkında bir şeyler yapmaktan yanayım, tıpkı diğer herkesin yaptığı gibi. İster yerel bir polis teşkilatı ister IDF olsun, kolluk kuvvetlerinin gerekli bir kötülük olduğunu anlıyorum. Bunu yapmak için AI kullanmak bir gereksiz fenalık.
Google'ın yalnızca Google'a güç veren yazılımı yazmaya devam etmesi gerektiğini söylemiyorum. sevdiğiniz telefonlar ve dallanmaya çalışmamak. Sadece bir doğru ve bir yanlış yol olduğunu söylüyorum — Google burada yanlış yolu seçti ve şimdi takılıp kaldı çünkü sözleşmenin şartları, Google'ın katılımı durdurmasına izin vermiyor.
Kendi fikirlerinizi oluşturmalı ve internette sabun kutusu olan birini asla dinlememelisiniz. Ama "Kötülük Etme" ilkesiyle kurulmuş bir şirket tam tersine dönüp bizi uyardığı kötülüğe dönüştüğünde de bilgi sahibi olunmalıdır.