Google teeb palju rumalusi. Kõik hiiglaslikud ettevõtted on selles osas ühesugused. Kuid millegi tõeliselt kohutava tegemiseks on vaja erilist pingutust. See on koht, kus Google'i projekt Nimbus tuleb spektrisse.
Projekt Nimbus on Google'i, Amazoni ja Iisraeli valitsuse ühine jõupingutus, mis pakub täiustatud masinõppemudelite abil futuristlikke jälgimisvõimalusi. Meeldib see või mitte, aga see on osa riigi julgeoleku tulevikust ja pole sugugi kohutavam kui paljud teised sarnased projektid. Paljud meist kasutavad isegi sarnast tehnoloogiat meie kodudes ja nende ümbruses.
Kui asjad muutuvad pimedaks ja inetuks, ütleb Google Project Nimbuse võimete kohta ettevõtte tehnoloogiat kasutades:
Nimbuse koolitusdokumentides rõhutatakse "Google'i Cloud Vision API" nägude, näo orientiiride, emotsioonide tuvastamise võimalusi" ja ühes Nimbuse koolituses veebiseminar, Google'i insener kinnitas ühele Iisraeli kliendile, et on võimalik "Nimbuse kaudu andmeid töödelda, et teha kindlaks, kas keegi on valetamine”.
Jah, ettevõte, kes andis meile kohutavalt halvad YouTube'i algoritmid, tahab nüüd müüa algoritme, et teha kindlaks, kas keegi valetab politseile. Las see vajuda. See on teadus, mis Microsoft on loobunud oma olemuslike probleemide tõttu.
Kahjuks pole Google nii palju nõus, et see maksab kätte ettevõtte inimestele mis selle vastu räägivad.
Pole mingit head põhjust pakkuda sellist tehnoloogiat ühelegi valitsusele mis tahes ulatuses.
Ma ei hakka siin mängitavasse poliitikasse liiga süvitsi laskuma, kuid kogu projekt loodi selleks, et Iisraeli valitsus saaks varjata, mida ta teeb. Google Enterprise'i turbeosakonna endise juhi Jack Poulsoni sõnul on Project Nimbuse üks peamisi eesmärke "ennetada Saksamaa valitsus ei nõudnud Rahvusvahelise Kriminaalkohtu jaoks andmeid Iisraeli kaitsejõudude kohta." juurde Intercept. (Mõnede inimeste seaduste tõlgenduste kohaselt sooritab Iisrael väidetavalt palestiinlaste vastu inimsusevastaseid kuritegusid.)
Kuid tegelikult pole vahet, kuidas te Iisraeli ja Palestiina konflikti suhtute. Pole mingit head põhjust pakkuda sellist tehnoloogiat ühelegi valitsusele mis tahes ulatuses. See muudab Google'i kurjast.
Nimbuse oletatavad võimalused on hirmutavad, isegi kui Google'i Cloud Vision API oli 100% õige, 100% ajast. Kujutage ette politsei kehakaameraid, mis kasutavad tehisintellekti, et otsustada, kas esitada süüdistus ja arreteerida. Kõik muutub kohutavaks, kui mõelda, kui sageli masinõppe nägemissüsteemid ajavad asjad valestisiiski.
See pole ainult Google'i probleem. Kõik, mida tuleb teha, on vaadata sisu modereerimist YouTube'is, Facebookis või Twitteris. 90% esialgsest tööst teevad arvutid, kasutades modereerimisalgoritme, mis teevad liiga sageli valesid otsuseid. Projekt Nimbus teeks aga enamat kui lihtsalt teie totra kommentaari kustutamine – see võib maksta teile elu.
Ühelgi ettevõttel pole sellist tehisintellekti pakkumist enne, kui tehnoloogia on küpsenud olekuni, kus see pole kunagi vale, ja seda ei juhtu kunagi.
Vaata, ma olen selle poolt, et leiaks pahad poisid ja teeksin nendega midagi täpselt nagu enamik teisigi. Ma saan aru, et õiguskaitseorganid, olgu siis kohalik politseijaoskond või IDF, on vajalik kurjus. AI kasutamine selleks on mittevajalik kurjast.
Ma ei ütle, et Google peaks jääma ainult selle tarkvara kirjutamise juurde, mis seda volitab telefonid, mida sa armastad ja ei ürita hargneda. Ma lihtsalt ütlen, et on olemas õige ja vale tee – Google valis siin vale tee ja nüüd on see takerdunud, sest lepingu tingimused ei luba Google'il osalemist lõpetada.
Peaksite kujundama oma arvamuse ja ärge kunagi kuulake Internetis kedagi, kellel on seebikarp. Kuid peaksite olema kursis ka siis, kui "Ära ole kuri" põhimõttel asutatud ettevõte teeb täisringi ja muutub kurjaks, mille eest meid hoiatas.