Prošli je tjedan Ava Kofman napisala zanimljiv, ali zastrašujući članak Presretanje o Voice RT-u. Vjerojatno nikada prije niste čuli za Voice RT jer je to jedna od stvari koju američka vlada radi u tajnosti; u ovom slučaju, to je bio razvoj tehnologije koja može nekoga pozitivno identificirati po zvuku glasa. Obavezno ga pročitajte. To su važne informacije koje svi trebaju znati.
Naš je glas savršena biometrijska identifikacija; stabilan je i jedinstven.
Sada je lako shvatiti ideju prepoznavanja nekoga po glasu. To radimo svaki dan kada razgovaramo s nama bliskim ljudima. Glas osobe prilično je jedinstven i ne treba puno procesorske snage - bilo one organske u našim glavama ili silicijeva vrsta u našim uređajima - da bismo znali s kime razgovaramo samo kad ih čujemo govoriti. Ali NSA je mogao stvari odvesti do krajnjih granica. Imaju sposobnost slušati sve, svugdje. Ako upotrebljavate govornicu usred ničega, oni mogu slušati. Možda čak imaju i ovlasti za to, a to znači da bismo mogli imati velik problem sjedeći na noćnim ormarićima ili stolićima zvanim Google Home i Amazon Echo.
Verizon nudi Pixel 4a za samo 10 USD mjesečno na novim Neograničenim linijama
Razgovarajući s Granica, Albert Gidari, direktor privatnosti iz Stanfordskog centra za internet i društvo, rekao je da su ti proizvodi "osjetljivi na vladine zahtjeve za pristupom i otkrivanjem; Mislim da bi vlada mogla dobiti nalog za tehničku pomoć kako bi olakšala skeniranje, a pod FISA-om, možda i za izradu alata. " siguran sam da je Gidari u pravu jer vlada već može uputiti sudski poziv za naše telefone, računala, pa čak i televizore kako bi im pomogla istraga. Senatori Wyden (D., Oregon) i Paul (R., Kentucky) mislite da bi se i FISA mogla zlostavljati na ovaj način.
I nije pitanje vladine agencije koja špijunira ono što govorimo ili radimo kad razgovaramo s Alexa ili Google Homeom. Te im informacije nisu potrebne; sve što žele je snimka naših glasova.
Oboje Jeka i Google početna pohraniti snimke stvari koje kažemo kad razgovaramo s njima. Oboje također prenose glasovne podatke na oblak poslužitelj za obradu. Srećom, svaki snima samo nakon otkrivanja vruće riječi i svih podataka koji ostanu s vašeg uređaja šifrirani su i anonimni. Bilo da bi mogli presresti i dešifrirati podatke, zatražiti ih putem suda ili ih izvući iz uređaja, sve što će čuti su ljudi poput ti i ja govorimo Asistentu ili Alexa da promijenimo kanal ili damo vremensku prognozu - svakodnevne informacije koje ne pokušavate zadržati tajna. Policija u Bentonvilleu u Arkansasu upravo je to otkrila kada je Amazon Echo dobio je sudski poziv u slučaju ubojstva 2016. godine. Ali opet, to nije ono što je NSA prikupljala s Voiceom RT; oni su samo željeli neke uzorke podataka glasa, kako bi se mogli podudarati s njima dok su špijunirali u stvarnom vremenu.
Nije što Ti kažeš. Činjenica je da jest vas govoreći to zbog čega je NSA zanimljiv.
Kopajući po dokumenti procurio Edward Snowden, Kofman pronađeno da NSA godinama prikuplja podatke o prepoznavanju glasa. Ova se tehnologija koristila za identifikaciju Sadama Husseina i podudaranje nekih prošlih snimki. Stvoreni su glasovni otisci za Osamu Bin Ladena i druge visoko rangirane članove Al Qaide, a jedan zapis govori kako je ustanovljeno da je Abu Musab al-Zarqawi govornik u mrežnim audio datotekama za koje je CIA bila vrlo zainteresirana u. Ovi povjerljivi dokumenti pokazuju da je NSA usavršavao i koristio svoju tehnologiju prepoznavanja zvučnika u protuterorističkim operacijama i međunarodnim uhićenjima droga.
Ako mislite da je glavna špijunska agencija u zemlji koja prikuplja nasumične snimke onoga što ljudi kažu kako bi pomogli u borbi protiv terorizma ili trgovine drogom u redu, malo ljudi bi se svađalo s vama. Google i Facebook (i vjerojatno svaka druga internetska tvrtka) skeniraju prikupljene podatke za stvari poput djeteta pornografije ili zlostavljanja, kršenja autorskih prava i terorističkih aktivnosti jer netko smatra da je to za veće dobro. Neću se svađati. Ali i Snowden otkrio da NSA planira primijeniti istu tehnologiju kako bi spriječio zviždače poput njega da razotkriju njihova nedjela godinama prije Izvršna naredba 13587 je potpisan.
NSA planira koristiti taktike koje pomažu uhvatiti Bin Ladena za nadgledanje Amerikanaca.
To ide predaleko i zabrinuli su se ljudi poput bivšeg savjetnika Bijele kuće, ravnatelja Nacionalne obavještajne službe Timothyja Edgara o našoj privatnosti i posljedicama premoćne vladine agencije ako misle da smo rekli ili učinili nešto što nismo Kao. Svi smo čuli slučajeve kada se prelazila i prelazila vrlo tanka crta i sve nije bilo sasvim legalno u skladu s duhom Ustava. Što se tiče naših glasova, stručnjaci za građansku slobodu smatraju da Google i Amazon trebaju promijeniti način na koji funkcioniraju Home i Echo kako se ne bi zadržali glasovni podaci.
Naši su glasovi stabilni; nešto što sam rekao prije 10 godina može se pozitivno identificirati kroz glasovni otisak kao da dolazi od mene danas. S glasovnim snimkama pri ruci, iako se radi o datotekama na kojima piše nešto poput "OK Google, priguši svjetla u dnevnoj sobi na 50%", lako ih je koristiti protiv nas u bilo kojoj istrazi ili operaciji. Pretpostavljam da NSA ima mnoštvo glasovnih podataka koji mogu identificirati osobu koja je poslužila pića traženom teroristu u hotelu ili agenta na šalteru karata u zračnoj luci. Također pretpostavljam da su ti nevini ispitani, a zatim im je uručen nalog za zatvaranje, iako su nevini za bilo kakve zločine i NSA-u, CIA-i i FBI-u znali bili su nevini.
O tome treba razotkriti i javno raspravljati. Tehnologija koja se može koristiti za praćenje novinara ili otkrivanje njihovih izvora opasna je ako se ne koristi ispravno i ne smije se skrivati iza zida državne klasifikacije. Iako grupe poput EFF-a i Zaklade za slobodu tiska to pokušavaju ostvariti, postoji pritisak na Google i Amazon da prestanu spremati i analizirati glasovne podatke na način na koji to čine sada. To prilično prigušuje sustav dizajniran da analizira sve i postane pametniji. Strojno učenje treba obilne količine podataka koje će se uvijek iznova analizirati kako bi se "naučilo". Google i Amazon trebaju brinuti o prikupljanju i pohranjujući sve na način da ostane anoniman, umjesto da brine kako njihovi strojevi za učenje mogu učiti bez podataka koje koriste potreba.
Stroju su potrebni podaci za učenje. Mnogo se podataka ponavljalo iznova i iznova.
Ukazivanje prstom na Alexa i Asistenta kao korijen problema nije dobro za one koji ih smatraju korisnima. Moramo se usredotočiti na ugovaranje naše vlade i zaustavljanje neopravdanog nadzora Amerikanaca. I ovo nije samo stvar iz SAD-a; Interpol i Britanski GCHQ su "usko surađivali" s NSA-om i kreditnim programima poput Voice RT-a kao "koji igraju važnu ulogu u našem odnosu s NSA-om". Kaže se da je Kina imala isti tip programa i sada je u stanju pozitivno identificirati desetke ili možda stotine tisuća kineskih građana zvukom njihovog glasa automatski.
Ne vjerujem da NSA ima tajnu tehnologiju koja može identificirati bilo koga od nas u bilo kojem trenutku i ne koristiti je na neprimjeren način. Slažem se sa stručnjacima za građansku slobodu da je ovo opasan put i da ga treba objaviti u javnosti. Ne slažem se s pritiscima na Google i Amazon da prestanu s inovacijama dok čekamo. Vidimo da se budućnost odvija pred našim očima i sve dok "pametni" strojevi koje Google i Amazon koriste da bi je donijeli do nas pokažu da im treba vladati, nemojmo zadržavati budućnost.