Google dělá spoustu hloupostí. Všechny obří korporace jsou v tomto ohledu stejné. Ale udělat něco opravdu hrozného vyžaduje zvláštní úsilí. To je místo, kde ve spektru přichází projekt Nimbus společnosti Google.
Projekt Nimbus je společným úsilím společností Google, Amazon a izraelské vlády, které poskytuje futuristické možnosti sledování pomocí pokročilých modelů strojového učení. Ať se nám to líbí nebo ne, je to součást budoucnosti státní bezpečnosti a není o nic hroznější než mnoho jiných podobných projektů. Mnoho z nás dokonce používá podobnou technologii v našich domovech a kolem nich.
Tam, kde se věci stávají temnými a ošklivými, je to, co Google říká o schopnostech Project Nimbus využívající technologii společnosti:
Školicí dokumenty Nimbus zdůrazňují „možnosti detekce ‚obličeje, orientačních bodů na obličeji, emocí‘ rozhraní Google Cloud Vision API“ a v jednom školení Nimbus webinář potvrdil inženýr společnosti Google pro izraelského zákazníka, že by bylo možné „zpracovávat data prostřednictvím Nimbusu, aby bylo možné určit, zda někdo ležící".
Ano, společnost, která nám dala strašně špatné algoritmy YouTube, chce nyní prodávat algoritmy, aby zjistila, zda někdo lže policii. Nechte to zapadnout. To je věda, která Microsoft opustil kvůli jeho inherentním problémům.
Bohužel Google nesouhlasí natolik, že ano mstí lidi ve firmě které mluví proti.
Neexistuje žádný dobrý důvod poskytovat tento druh technologie jakékoli vládě v jakémkoli měřítku.
Nebudu se pouštět příliš hluboko do politiky, která se zde hraje, ale celý projekt byl navržen tak, aby izraelská vláda mohla skrývat, co dělá. Podle Jacka Poulsona, bývalého šéfa zabezpečení pro Google Enterprise, je jedním z hlavních cílů projektu Nimbus „zabránit německá vláda nebude vyžadovat údaje týkající se izraelských obranných sil pro Mezinárodní trestní soud“. na Intercept. (Podle výkladu zákonů některých lidí se Izrael údajně dopouští zločinů proti lidskosti na Palestincích.)
Ve skutečnosti však nezáleží na tom, jak se cítíte v konfliktu mezi Izraelem a Palestinou. Neexistuje žádný dobrý důvod poskytovat tento druh technologie jakékoli vládě v jakémkoli měřítku. Díky tomu bude Google zlo.
Předpokládané schopnosti Nimbusu jsou děsivé, i když Google Cloud Vision API byl 100% správný, 100% času. Představte si policejní kamery, které využívají AI k rozhodnutí, zda vás obvinit a zatknout. Všechno se stává děsivým, když uvážíte, jak často Systémy strojového učení se pletou, ačkoli.
Není to jen problém Googlu. Jediné, co musíte udělat, je podívat se na moderování obsahu na YouTube, Facebooku nebo Twitteru. 90 % počáteční práce provádějí počítače pomocí moderačních algoritmů, které příliš často dělají chybná rozhodnutí. Projekt Nimbus by však udělal víc, než jen smazat váš urážlivý komentář – mohl by vás to stát život.
Žádná společnost nemá žádný podnik poskytující tento druh umělé inteligence, dokud tato technologie nedospěje do stavu, kdy se nikdy nemýlí, a to se nikdy nestane.
Podívej, jsem pro to najít padouchy a něco s nimi udělat, stejně jako většina ostatních. Chápu, že vymáhání práva, ať už místní policejní oddělení nebo IDF, je nutné zlo. Použití AI k tomu je zbytečné zlo.
Neříkám, že by se Google měl držet pouze psaní softwaru, který pohání telefony, které máte rádi a nesnažit se větvit. Jen říkám, že existuje správná a špatná cesta – Google si zde vybral špatnou cestu a teď se zasekl, protože podmínky smlouvy neumožňují společnosti Google ukončit účast.
Měli byste si vytvořit svůj vlastní názor a nikdy neposlouchat někoho na internetu, kdo má mýdlovou krabičku. Měli byste být ale také dobře informováni, když společnost, která byla založena na principu „Nebuď zlá“, otočí kruh a stane se zlem, před kterým nás varovala.