Google face o mulțime de prostii. Toate corporațiile gigant sunt la fel în această privință. Dar este nevoie de un efort deosebit pentru a face ceva cu adevărat groaznic. Acolo intră în spectru proiectul Google Nimbus.
Proiectul Nimbus este un efort comun al Google, Amazon și guvernul israelian care oferă capabilități de supraveghere futuriste prin utilizarea modelelor avansate de învățare automată. Ne place sau nu, asta face parte din viitorul securității statului și nu mai groaznic decât multe alte proiecte similare. Mulți dintre noi chiar folosim tehnologie similară în și în jurul caselor noastre.
Acolo unde lucrurile devin întunecate și urâte este ceea ce spune Google despre capabilitățile Project Nimbus folosind tehnologia companiei:
Documentele de instruire Nimbus subliniază „capacitățile de detectare a „fețelor, reperelor faciale, emoțiilor” ale API-ului Google Cloud Vision” și într-un curs Nimbus webinar, un inginer Google a confirmat pentru un client israelian că ar fi posibil să „proceseze datele prin Nimbus pentru a determina dacă cineva este minciuna”.
Da, compania care ne-a oferit algoritmii YouTube extraordinar de răi acum vrea să vândă algoritmi pentru a determina dacă cineva minte poliția. Lasă asta să se cufunde. Aceasta este o știință care Microsoft a abandonat din cauza problemelor sale inerente.
Din păcate, Google nu este atât de mult de acord cu asta ripostează împotriva oamenilor din companie care vorbesc împotriva ei.
Nu există niciun motiv întemeiat pentru a oferi acest tip de tehnologie oricărui guvern la orice scară.
Nu am de gând să intru prea adânc în politica în joc aici, dar întregul proiect a fost conceput astfel încât guvernul israelian să poată ascunde ceea ce face. Potrivit lui Jack Poulson, fost șef al departamentului de securitate pentru Google Enterprise, unul dintre obiectivele principale ale Proiectului Nimbus este „prevenirea guvernul german să nu solicite date referitoare la Forțele de Apărare Israelului pentru Curtea Penală Internațională”, potrivit la Interceptarea. (Se spune că Israelul comite crime împotriva umanității împotriva palestinienilor, conform interpretării legilor făcute de unii oameni.)
Într-adevăr, însă, nu contează ce simți despre conflictul dintre Israel și Palestina. Nu există niciun motiv întemeiat pentru a oferi acest tip de tehnologie oricărui guvern la orice scară. Făcând acest lucru, Google rău.
Presupusele capacități ale lui Nimbus sunt înfricoșătoare, chiar dacă API-ul Google Cloud Vision a fost 100% corect, 100% din timp. Imaginați-vă camerele poliției care folosesc inteligența artificială pentru a decide dacă să vă acuze sau să vă aresteze. Totul devine terifiant când te gândești cât de des sistemele de viziune de învățare automată greșesc, totuși.
Aceasta nu este doar o problemă Google. Tot ce trebuie să faci este să te uiți la moderarea conținutului pe YouTube, Facebook sau Twitter. 90% din munca inițială este realizată de computere care folosesc algoritmi de moderare care iau decizii greșite mult prea frecvent. Totuși, proiectul Nimbus ar face mai mult decât să șteargă comentariul tău sarcinat – ți-ar putea costa viața.
Nicio companie nu are vreo afacere care să furnizeze acest tip de IA până când tehnologia nu a ajuns la o stare în care nu este niciodată greșită și asta nu se va întâmpla niciodată.
Uite, sunt pentru a găsi băieții răi și a face ceva în legătură cu ei, la fel ca toți ceilalți. Înțeleg că forțele de ordine, fie că sunt un departament de poliție locală sau IDF, este un rău necesar. Folosirea AI pentru a face acest lucru este un inutil rău.
Nu spun că Google ar trebui să rămână doar să scrie software-ul care alimentează telefoanele pe care le iubești și nu încercând să se ramifică. Spun doar că există o cale corectă și una greșită — Google a ales calea greșită aici, iar acum s-a blocat deoarece termenii acordului nu permit Google să înceteze participarea.
Ar trebui să vă formați propriile opinii și să nu ascultați niciodată pe cineva de pe internet care are o cutie de săpun. Dar ar trebui să fii bine informat și atunci când o companie care a fost înființată pe principiul „Nu fii rău” dă cerc complet și devine răul despre care ne-a avertizat.