Google počne veliko neumnosti. V tem pogledu so si vse velikanske korporacije enake. Vendar se je treba še posebej potruditi, da naredimo nekaj res groznega. Tu nastopi Googlov projekt Nimbus.
Projekt Nimbus je skupno prizadevanje Googla, Amazona in izraelske vlade, ki zagotavlja futuristične zmogljivosti nadzora z uporabo naprednih modelov strojnega učenja. Všeč mi je ali ne, to je del prihodnosti državne varnosti in ni nič bolj grozno kot mnogi drugi podobni projekti. Mnogi od nas celo uporabljajo podobno tehnologijo v in okoli naših domov.
Kjer stvari postanejo temne in grde, je to, kar Google pravi o zmogljivostih Project Nimbus z uporabo tehnologije podjetja:
Dokumenti za usposabljanje Nimbus poudarjajo »zmožnosti zaznavanja obrazov, obrazov, čustev« Googlovega Cloud Vision API-ja« in v enem usposabljanju Nimbus spletnega seminarja je Googlov inženir za izraelsko stranko potrdil, da bi bilo mogoče »obdelati podatke prek Nimbusa, da bi ugotovili, ali je nekdo laganje«.
Da, podjetje, ki nam je dalo osupljivo slabe algoritme za YouTube, zdaj želi prodajati algoritme za ugotavljanje, ali nekdo laže policiji. Naj se to potopi. To je znanost, ki Microsoft je opustil zaradi svojih inherentnih težav.
Na žalost se Google tako ne strinja, da je se maščuje ljudem v podjetju ki govorijo proti temu.
Nobenega dobrega razloga ni, da bi tovrstno tehnologijo zagotovili kateri koli vladi v kakršnem koli obsegu.
Ne bom se preveč poglabljal v politiko, ki je tu v igri, vendar je bil celoten projekt zasnovan tako, da bi lahko izraelska vlada prikrila, kaj počne. Po mnenju Jacka Poulsona, nekdanjega vodje varnosti za Google Enterprise, je eden od glavnih ciljev projekta Nimbus "preprečevanje Nemška vlada naj zahteva podatke v zvezi z izraelskimi obrambnimi silami za Mednarodno kazensko sodišče do The Intercept. (Izrael naj bi izvajal zločine proti človeštvu nad Palestinci, glede na tolmačenje zakonov nekaterih ljudi.)
V resnici pa ni pomembno, kako se počutite glede konflikta med Izraelom in Palestino. Nobenega dobrega razloga ni, da bi tovrstno tehnologijo zagotovili kateri koli vladi v kakršnem koli obsegu. S tem postane Google zlo.
Domnevne zmogljivosti Nimbusa so strašljive, tudi če bi bil Googlov API Cloud Vision 100 % pravilen, 100 % časa. Predstavljajte si policijske telesne kamere, ki uporabljajo umetno inteligenco za pomoč pri odločanju, ali vas bodo obtožili in aretirali ali ne. Vse postane grozljivo, če pomislite, kako pogosto sistemi strojnega učenja delajo stvari narobe, čeprav.
To ni le težava Googla. Vse kar morate storiti je, da si ogledate moderiranje vsebine na YouTubu, Facebooku ali Twitterju. 90 % začetnega dela opravijo računalniki z moderacijskimi algoritmi, ki prepogosto sprejemajo napačne odločitve. Projekt Nimbus pa bi naredil več kot le izbrisal vaš zajedljiv komentar – to bi vas lahko stalo življenja.
Nobeno podjetje se ne ukvarja z zagotavljanjem tovrstne umetne inteligence, dokler tehnologija ne dozori do stanja, ko se nikoli ne moti, in to se ne bo nikoli zgodilo.
Glej, jaz sem za to, da najdemo slabe fante in naredimo nekaj glede njih, tako kot večina drugih. Razumem, da so organi kazenskega pregona, bodisi lokalni policijski oddelek ali IDF, nujno zlo. Uporaba AI za to je nepotrebno zlo.
Ne pravim, da bi se moral Google kar držati pisanja programske opreme, ki poganja telefoni, ki jih imate radi in ne poskuša razvejati. Samo pravim, da obstajata prava in napačna pot – Google je tukaj izbral napačno pot in zdaj se je zataknil, ker pogoji pogodbe ne dovoljujejo, da Google preneha sodelovati.
Ustvarite si svoje mnenje in nikoli ne poslušajte nekoga na internetu, ki ima milo. Morate pa biti dobro obveščeni tudi, ko podjetje, ki je bilo ustanovljeno po načelu Ne bodi zloben, obrne poln krog in postane zlo, na katerega nas je opozorilo.