Straipsnis

Naujausi „Google“ dirbtinio intelekto ginčai dėl etikos yra jos paties „Hubris“ produktas, net jei jis vykdė taisykles

protection click fraud

„Google Campus“Šaltinis: „Android Central“

Neseniai daktaras Timnitas Gebru, pripažintas vienu geriausių etikos dirbtinio intelekto tyrėjų, kuriuos „Google“ kada nors buvo samdžiusi, išsiskyrė su įmone. Tai taip pat nebuvo labai nuoširdus išsiskyrimas.

Visa tai kyla iš pranešimo, kurį Gebru ketino pristatyti informatikos konferencijoje 2021 m. Kovo mėn. Apie dirbtinio intelekto etiką - „Android“ naudojamus dalykus geriausi telefonai kiekvieną dieną. „Google“ tvirtina, kad norint patvirtinti bet kokius tokio tipo rašinius ar pristatymus reikia 14 darbo dienų jei darbuotojas save reklamuoja kaip dirbantį „Google“. Taip yra todėl, kad įmonė turi galimybę įsitikinti, kad visi duomenys apie ją yra teisingi ir aktualūs. Tai nėra blogas dalykas ir dauguma įmonių vykdys panašią politiką, susijusią su mokslinių tyrimų dokumentais.

VPT pasiūlymai: Viso laikotarpio licencija už 16 USD, mėnesio planai - 1 USD ir daugiau

Kur viskas skiriasi, kiekviena pusė vaizduoja tai, kas vyko toliau.

Timnit GebruŠaltinis: „Getty Images“Dr. Timnit Gebru

Gebru sako, kad iš tikrųjų nėra jokios griežtos politikos dėl mokslinių darbų ar pristatymų apžvalgų, o „Google“ šioje srityje visada buvo lanksti. Po to, kai dokumentas buvo peržiūrėtas, „Google“ atsisakė kai kurių detalių, kurios nebuvo pavaizduotos geriausiai. Tada bendrovė atleido ją iš įvykio, pagal jos įvykių versiją. „Google Walkout“ - buvusių darbuotojų grupė, laikanti skirtukus apie „Google“ klaidas, paskelbė giliai pažvelgti į Gebru pasakojimo pusę.

Kiekvienoje istorijoje yra dvi pusės. Dėl abiejų „Google“ atrodo blogai.

Jeffui Deanui, „Google“ dirbtinio intelekto padalinio vadovui, pavesta parengti projektą „Google“ istorijos pusė, nors jis nėra tas žmogus, kuris leido Gebru paleisti. Pasak Deano, kai Gebrui buvo pasakyta, pristatymą reikia pataisyti ir įtraukti „Google“ planus pakeisti dirbtinio intelekto programą, ji pateikė įmonei sąrašą reikalavimų, kuriuos reikės patenkinti prieš jai grįžtant į darbą. „Google“ negalėjo patenkinti šių reikalavimų, o Gebru atsistatydinimas buvo priimtas.

Abi šalys atsisakė viešai komentuoti praeityje šiuos internetinius įrašus, tačiau „Google“ generalinis direktorius Sundaras Pichai atsiuntė vidinę atmintinę visai įmonei atsiprašant už tai, kaip įmonė elgėsi pati. Iš Pichai atmintinės:

Pirmiausia - turime įvertinti aplinkybes, dėl kurių daktaras Gebru išvyko, išnagrinėdami, kur galėjome patobulėti ir vadovauti pagarbesniam procesui. Mes pradėsime to, kas nutiko, apžvalgą, kad nustatytume visus dalykus, kuriuos galime išmokti - atsižvelgdami į viską, pradedant deeskalavimo strategijomis ir baigiant naujais procesais, kuriuos galime įdiegti. Jeffas ir aš kalbėjome ir esame visiškai pasiryžę tai padaryti. Vienas geriausių „Google“ inžinerijos kultūros aspektų yra nuoširdus noras suprasti, kur viskas blogai ir kaip galime tobulėti.

Antra - turime prisiimti atsakomybę už tai, kad garsi juodaodė moteris, turinti didžiulį talentą, paliko „Google“ nelaimingai. Šis praradimas turėjo bangų efektą per kai kurias mūsų mažiausiai atstovaujamas bendruomenes, kurios matė save ir dalį savo patirties atspindinčių daktaro Gebru. Tai taip pat buvo jaučiama, nes daktaras Gebru yra svarbios PG etikos srities ekspertas, kurio privalome toliau daryti pažangą - pažanga, kuri priklauso nuo mūsų sugebėjimo užduoti sau iššūkį klausimų.

Jeffas DeanasŠaltinis: laidinis „Google“ dirbtinio intelekto skyriaus vadovas Jeffas Deanas

Neįmanoma tiksliai žinoti, kas nutiko, nebent jūs dalyvavote procese, nes abi pusės šis ginčas siūlo įvykių posūkį, kuris turi prasmę atskirai, nors abu pasakojimai yra labai skirtingi skirtingi. Pichai sako, kad išsiaiškinti, kas nutiko ir kodėl yra svarbiausias prioritetas, kad jis galėtų išspręsti problemas, ir tai puiku pamatyti - generalinis direktorius šį kartą elgiasi teisingai ir mes linkime sėkmės. Bet iš tikrųjų tai mažai skiriasi, kai kalbama apie didesnius pačios „Google“ etikos praktikos klausimus: taip atsitiko ir to neturėjo būti.

Daktaro Gebru sąrašas atrodo kaip sąrašas, kaip „Google“ galėtų būti geresnė.

„Google“ turi teisę reikalavimų sąrašą laikyti atsistatydinimo laišku. Bet pažvelkime į tuos reikalavimus minutę. Gebru sąlygos buvo 1) išsiaiškinti, kas aktyviai reikalavo atsiimti savo popierių, 2) turėti rinkinį susitikimai su „Google“ etinio intelekto intelekto komanda apie problemas ir 3) išsiaiškinimas, ką „Google“ laiko priimtina tyrimus. Jei jūsų įmonė vargina turėti etinio dirbtinio intelekto padalinio, atrodytų, kad šie „reikalavimai“ yra naudingi visiems, kurie jame dalyvauja.

Deanas taip pat atkreipia dėmesį į tai, kad Gebru darbe nebuvo išsami informacija apie tai, kaip „Google“ planuoja pakeisti požiūrį į dirbtinį intelektą, ir manė, kad teisinga norėti, kad ši informacija būtų įtraukta. Taip yra todėl, kad „Google“ žino, kad jis neatrodo toks puikus, kai kalbama apie etinius aspektus, vadinamus dideliais kalbos modeliais. Tai puikiai pažengė mokant vieną iš sudėtingiausių modelių, tačiau nepadėjo jam tobulėti.

„Galaxy S10“ demonstruoja „Google Duplex“Šaltinis: „Android Central“

Dideli kalbos modeliai yra apmokomi naudojant absurdiškai daug teksto. Šis tekstas yra renkamas iš interneto ir gali būti užpildytas rasistine, seksistine ir kitokia įžeidžiančia bei įžeidžiančia kalba, kuriai nėra vietos modelyje, skirtame bendrauti su klientais. Problema ta, kad kalba vystosi, todėl bet kurį dirbtinio intelekto kalbos modelį reikėtų nuolat mokyti, kad neatsiliktų nuo laiko.

Čia „Google“ nebuvo kruopšti ir jos dideli kalbos modeliai, norėdami juos įtraukti, turi būti daugiau mokomi ignoruoti kitus dalykus ir geriau atstovauti žmonių grupėms, kurios tradiciškai turi mažai prieigos prie internetas. Trumpai tariant, „Google“ dirbtinis intelektas buvo mokomas naudojant tekstą, kurį daugiausia parašė žmonės, kurie atrodo ir elgiasi vienodai. Tai yra didelė etinio intelekto dalis - užtikrinti, kad visi būtų vienodai atstovaujami ir kad modeliai vystytųsi keičiantis laikams.

„Dirbtinio intelekto sukurta kalba bus homogenizuota, atspindint turtingiausių šalių ir bendruomenių praktiką“, - perspėja MIT technologijų apžvalga.

Žinoma, „Google“ mieliau turėtų žavingų žodžių apie savo siūlomus pakeitimus, kad dirbtinis intelektas, valdantis tokius dalykus kaip internetinė paieška, taptų etiškesnis. Tačiau ji buvo pasirengusi leisti vieniems geriausiųjų, kaip tai padaryti, pasitraukti iš bendrovės dėl dokumento, kuriame daugiausia dėmesio buvo skiriama čia ir dabar, o ne kalbama apie ateitį. Panašu, kad įmonės etiką taip pat reikia šiek tiek pakoreguoti. Tačiau taip pat nesunku suprasti, kodėl „Google“ taip jaudinasi dėl pasirodymų - jis yra kur kas labiau tikrinamas nei kitų kompanijų, kurios kuria pagrindą aplink dirbtinį intelektą.

„Android Messages“ išmanieji atsakymaiŠaltinis: „Google“

Kai pagalvoji apie technologijų įmones, kurios naudoja dirbtinį intelektą ir turite mažiau nei žvaigždžių, kai kalbama apie tai, kaip elgiamasi su klientais, tikriausiai turite tris vardus: „Amazon“, „Facebook“ ir „Google“. Šios įmonės yra jūsų veidas, nes kiekviena teikia vartotojų paslaugas, prie kurių kasdien prisiliečiame ir bendraujame. Tai reiškia, kad jie turėtų būti labai intensyviai tikrinamas, ypač kai kalbama apie naujas technologijas, tokias kaip dirbtinis intelektas.

Bet jūs taip pat galite žinoti, kad kitos technologijų kompanijos, tokios kaip „Microsoft“, „NVIDIA“ ir „IBM“ (taip pat yra daug daugiau), taip pat yra glaudžiai susijusios su dirbtiniu intelektu, tačiau daug mažiau tikrinamos. Vos prieš keletą metų „Microsoft“ leido mokyti dirbtinio intelekto modelį antisemitinės idėjos. Tai visiškai nepriimtina, tačiau „Microsoft“ nesukėlė tokio pat lygio patikrinimo, kokį turi „Google“.

Mes turėtume nori pamatyti visas technologijų įmones intensyviai stebimas.

Nesakau, kad su „Google“ čia elgiamasi nesąžiningai. Aš taip sakau visi įmonės, kuriančios dirbtinio intelekto modelius, kurie bet kokiu būdu veikia mūsų gyvenimą, turėtų būti mikroskopu už kiekvieną jo daromą dalyką. Jums rūpi „Google“ AI padalinys, nes jis suteikia galimybę atlikti paieškas ir tavo pašto dėžutę. „Facebook“ turi tikrai blogą savo dirbtinio intelekto modelių, kurie sustiprina tikrovės neatitinkančius įrašus, istoriją. „Amazon“ naudoja dirbtinį intelektą, kad stebėtų, ką daro jos konkurencija ir kaip ji gali pakenkti jų verslui.

„IBM Watson AI“Šaltinis: IBM

Mes matome šiuos dalykus, bet nematome, kaip IBM naudoja dirbtinį intelektą finansinėms paslaugoms, sveikatos priežiūros paslaugoms ar klientų palaikymo programoms. Tikrai jūsų medicininė priežiūra ir banko sąskaita yra tokios pat svarbios kaip jūsų „Facebook“ laiko juosta ar „Gmail“ gautieji.

Tai tikri klausimai, kurių nereikėtų nustumti į šalį. Tiesą sakant, mums reikia daugiau žmonių, tokių kaip dr. Gebru, prižiūrinčių, kaip dirbama dirbtinio intelekto srityje mūsų geriausius interesus. Tačiau čia ir dabar atrodo, kad „Google“ vėl susiduria su prieštaravimais dėl darbuotojo, kuris nepaisė įmonės linijos, elgesio ir tai tikrai bloga įmonės išvaizda.

Kaip manote, koks „Android“ telefonas valdė 2020 m.
Geriausias iš geriausių

Kaip manote, koks „Android“ telefonas valdė 2020 m.

Nuo „Galaxy Z Fold 2“ iki „OnePlus 8T“ 2020 m. Buvo išleista daugybė puikių „Android“ telefonų. Kas iš viso to pasirodė, kas apskritai išsiskiria geriausiu?

Ne viskas apie 2020-uosius įsisiurbė - pigūs telefonai vėl gavo gerą
sidabrinių pamušalų pjesė

Ne viskas apie 2020-uosius susižėrė - pigūs telefonai vėl gavo gerą.

Dėl veiksnių, įskaitant neramias rinkos jėgas, medžiagų ir mikroschemų pokyčius, ir pasaulinės pandemijos susiliejimo, 2020 m. Iš tikrųjų buvo kokybiškų ir prieinamų išmaniųjų telefonų reklaminiai metai. Tikimės, kad kai dulkės nusės šiais siaubingais metais, tai bus vienas geras dalykas, kurį mums paliks.

„Zepp Z“ apžvalga: puikų laikrodį apsunkino du programinės įrangos trūkumai
Tvirtas ir protingas

„Zepp Z“ apžvalga: puikų laikrodį apsunkino du programinės įrangos trūkumai.

Yra daugybė išmaniųjų laikrodžių, o naujasis „Zepp Z“ ateina aukščiausios kokybės medžiagų kampu su solidžiu gerovės savybių rinkiniu. Naudodamasis savo programinės įrangos skoniu, šis laikrodis gali pasigirti 15–30 dienų akumuliatoriaus tarnavimo laiku tarp įkrovimų, tačiau ši programinė įranga yra palikta šaltyje dėl dviejų svarbių „smartwatch“ funkcijų.

Tai geriausi „OnePlus“ telefonai, kuriuos galite įsigyti 2020 m
Kurio niekada neatsispręsti

Tai geriausi „OnePlus“ telefonai, kuriuos galite įsigyti 2020 m.

Galvojate apie prisijungimą prie „Team OnePlus“, bet nesate tikri, kuri iš įmonės programėlių jums tinka? Leiskite mums padėti jums rasti geriausią „OnePlus“ telefoną!

instagram story viewer