Článok

Najnovšia kontroverzia spoločnosti Google o etike v oblasti umelej inteligencie je produktom jej vlastnej arogancie - aj keď presadzuje pravidlá

protection click fraud

Google CampusZdroj: Android Central

Nedávno sa Dr. Timnit Gebru, uznávaný ako jeden z najlepších etických výskumníkov umelej inteligencie, ktorého si Google kedy najal, rozišiel so spoločnosťou. Nebol to ani veľmi srdečný rozchod.

Všetko vychádza z príspevku, ktorý Gebru chcel predstaviť na konferencii o vede o počítačoch v marci 2021 o etike v AI - druhoch vecí, ktoré Android používa vo vnútri najlepšie telefóny každý deň. Google tvrdí, že na schválenie akýchkoľvek písomností alebo prezentácií tohto typu je potrebných 14 pracovných dní ak zamestnanec sa sám inzeruje ako pracujúci pre Google. Spoločnosť má tak šancu ubezpečiť sa, že všetky údaje o nej sú správne a aktuálne. To nie je zlá vec a väčšina spoločností bude mať podobné politiky týkajúce sa výskumných prác.

Dohody VPN: Doživotná licencia za 16 dolárov, mesačné plány za 1 dolár a viac

Veci sa líšia v tom, ako každá strana líči, čo sa stalo potom.

Timnit GebruZdroj: Getty ImagesDr. Timnit Gebru

Gebru hovorí, že v skutočnosti neexistujú nijaké tvrdé a rýchle zásady týkajúce sa výskumných prác alebo recenzií prezentácií a Google bol v tejto konkrétnej oblasti vždy flexibilný. Po skontrolovaní príspevku potom spoločnosť Google odsunula niektoré podrobnosti, ktoré ho nevylíčili v najlepšom svetle. Spoločnosť ju potom kvôli incidentu prepustila,

podľa jej verzie udalostí. Google Walkout, skupina bývalých zamestnancov, ktorá sleduje chyby spoločnosti Google, zverejnil hlboký pohľad na Gebruovu stránku príbehu.

Každý príbeh má dve stránky. Oba spôsobujú, že Google vyzerá zle.

Jeff Dean, vedúci divízie AI spoločnosti Google, dostal za úlohu vypracovanie návrhu Strana príbehu Google, aj keď to nie je človek, ktorý nechal Gebru odísť. Podľa Deana, keď bolo Gebru informované, prezentácia potrebovala opravy a zahrnutie plánov spoločnosti Google na zmenu jej program AI, predložila spoločnosti zoznam požiadaviek, ktoré je potrebné splniť, kým sa vráti do práce. Google nebol schopný vyhovieť týmto požiadavkám a Gebruho rezignácia bola prijatá.

Obe strany odmietli predložiť verejné pripomienky okolo týchto online príspevkov, ale generálny riaditeľ spoločnosti Google Sundar Pichai poslal interná poznámka celej spoločnosti sa ospravedlňujem za to, ako sa spoločnosť správala. Z poznámky Pichai:

Po prvé - musíme zhodnotiť okolnosti, ktoré viedli k odchodu doktora Gebru, preskúmať, kde by sme sa mohli zlepšiť, a viesť úctivejší proces. Začneme s prehodnocovaním toho, čo sa stalo, aby sme identifikovali všetky body, ktoré sa môžeme naučiť - vzhľadom na všetko od stratégií deeskalácie po nové procesy, ktoré môžeme zaviesť. S Jeffom sme hovorili a sme odhodlaní to urobiť. Jedným z najlepších aspektov inžinierskej kultúry spoločnosti Google je naša úprimná túžba pochopiť, kde sa veci zhoršujú a ako sa môžeme zlepšiť.

Druhá - musíme prijať zodpovednosť za to, že prominentná čierna vodkyňa s nesmiernym talentom opustila Google nešťastne. Táto strata mala efekt zvlnenia prostredníctvom niektorých našich najmenej zastúpených komunít, ktoré videli seba a niektoré svoje skúsenosti odrážajúce sa v Dr. Gebru. Bolo to tiež veľmi cítiť, pretože Dr. Gebru je odborníkom v dôležitej oblasti etiky AI, ktorú musíme pokračujte v dosahovaní pokroku - pokroku, ktorý závisí od našej schopnosti klásť si výzvy otázky.

Jeff DeanZdroj: Drôtové Vedúci divízie AI spoločnosti Google Jeff Dean

Je nemožné presne vedieť, čo sa stalo, pokiaľ ste sa nezúčastnili procesu, pretože obe strany táto kontroverzia ponúka zvrat udalostí, ktoré majú zmysel samy osebe, aj keď sú tieto dve rozprávania veľmi podobné rôzne. Pichai hovorí, že zistenie, čo sa stalo a prečo, je najvyššou prioritou, aby mohol napraviť problémy, a to je skvelé vidieť - výkonný riaditeľ tentokrát robí správne a želáme mu šťastie. Ale v skutočnosti to nemá veľký rozdiel, pokiaľ ide o väčšie problémy s vlastnými etickými postupmi spoločnosti Google: toto sa stalo a nemalo by sa to stať.

Zoznam požiadaviek doktora Gebru vyzerá ako zoznam toho, ako by mohol byť Google lepší.

Google má právo považovať zoznam požiadaviek za list o odstúpení. Poďme sa však na chvíľu pozrieť na tieto požiadavky. Podmienky Gebru boli 1) zistenie, kto aktívne vyzýval na stiahnutie jej príspevku, 2) mať sadu stretnutia s tímom etickej AI spoločnosti Google o týchto problémoch a 3) presné zistenie toho, čo Google považuje za prijateľné výskum. Ak sa vaša spoločnosť obťažuje, aby bola vyrovnaná mať etická divízia AI, zdá sa, že tieto „požiadavky“ sú prospešné pre všetkých, ktorí sa na nej podieľajú.

Dean tiež poukazuje na to, že Gebruov príspevok vynechal podrobnosti o tom, ako má Google v pláne zmeniť prístup k AI, a považoval za spravodlivé chcieť tieto podrobnosti zahrnúť. Je to tak preto, lebo Google vie, že to z etického hľadiska známych ako veľké jazykové modely nevyzerá tak dobre. Vďaka nemu bol výcvik vynikajúceho pokroku jedným z najkomplexnejších modelov, ale nepomohlo mu pri vývoji.

Galaxy S10 predvádza Google DuplexZdroj: Android Central

Veľké jazykové modely sú školení pomocou absurdne veľkého množstva textu. Tento text je získaný z internetu a môže byť naplnený rasistickým, sexistickým a všetkým možným iným urážlivým a urážlivým jazykom, ktorý nemá miesto v modeli určenom na interakciu so zákazníkmi. Problém je v tom, že jazyk sa vyvíja a každý jazykový model AI by musel byť neustále preškoľovaný, aby držal krok s dobou.

To je miesto, kde Google nebol usilovný a jeho veľké jazykové modely potrebujú viac školení, aby niektoré zahrnuli veci, ignorovať iné veci a lepšie reprezentovať skupiny ľudí, ktorí majú tradične malý prístup k internetu internet. Stručne povedané, AI spoločnosti Google bola trénovaná pomocou textu napísaného väčšinou ľuďmi, ktorí vyzerajú a konajú rovnako. To je veľká časť toho, o čom je etická AI - zabezpečiť, aby boli všetci rovnako zastúpení a aby sa modely vyvíjali s meniacou sa dobou.

„Jazyk generovaný umelou inteligenciou bude homogenizovaný, čo bude odrážať praktiky najbohatších krajín a komunít,“ varuje MIT Technology Review.

Google by samozrejme radšej mal žiarivé slová o svojich navrhovaných zmenách, aby sa AI, ktorá poháňa veci ako online vyhľadávanie, stala etickejšou. Bola však ochotná nechať jedného z najlepších, ktorý práve ukončil túto spoločnosť, opustiť kvôli článku, ktorý sa namiesto toho, aby hovoril o budúcnosti, zameral na tu a teraz. Zdá sa, že etika spoločnosti si vyžaduje určité úpravy. Je však tiež ľahké pochopiť, prečo sa Google tak veľmi obáva vzhľadu - je pod oveľa väčšou kontrolou ako iné spoločnosti, ktoré stavajú základy okolo AI.

Správy pre Android - inteligentné odpovedeZdroj: Google

Keď premýšľate o technologických spoločnostiach, ktoré používajú AI a ak máte menej ako hviezdne skúsenosti v oblasti zaobchádzania so zákazníkmi, pravdepodobne máte na mysli tri mená: Amazon, Facebook a Google. Tieto spoločnosti máte na očiach, pretože každá poskytuje spotrebiteľské služby, ktorých sa každý deň dotýkame a s ktorými komunikujeme. To znamená, že oni by mal podliehať veľmi intenzívnemu preskúmaniu, najmä pokiaľ ide o nové technológie, ako je umelá inteligencia.

Možno však tiež viete, že aj ďalšie technologické spoločnosti ako Microsoft, NVIDIA a IBM (je ich omnoho viac) sú takisto hlboko zapojené do umelej inteligencie, avšak pod oveľa menšou kontrolou. Bolo to len pred pár rokmi, čo Microsoft umožnil trénovať model AI antisemitské nápady. To je úplne neprijateľné, ale nezarobilo to spoločnosti Microsoft rovnakú úroveň kontroly, akú má Google.

Mali by sme chcieť vidieť všetky technologické spoločnosti pod intenzívnou kontrolou.

Nehovorím, že sa tu s Googlom zaobchádza nespravodlivo. To hovorím všetko spoločnosti vyrábajúce modely AI, ktoré akýmkoľvek spôsobom ovplyvňujú náš život, by mali byť pod mikroskopom pre každú jednu vec, ktorú robí. Záleží vám na divízii AI spoločnosti Google, pretože je to tak posilňuje vaše vyhľadávania a tvoj Doručená pošta. Facebook má skutočne zlé výsledky v oblasti svojich modelov AI, ktoré zosilňujú nepravdivé príspevky. Spoločnosť Amazon používa umelú inteligenciu na sledovanie toho, čo robí jej konkurencia a ako môže podkopávať svoje obchody.

IBM Watson AIZdroj: IBM

Vidíme tieto veci, ale nevidíme, ako IBM používa AI pre finančné služby, zdravotnícke služby alebo aplikácie podpory zákazníkov. Vaša lekárska starostlivosť a váš bankový účet sú určite rovnako dôležité ako časová os Facebook alebo doručená pošta v Gmaile.

Toto sú skutočné problémy, ktoré by sa nemali odsúvať nabok. V skutočnosti potrebujeme, aby viac ľudí ako Dr. Gebru dozeralo na to, ako sa s prácami v oblasti AI pracuje náš v najlepšom záujme. Ale tu a teraz to určite vyzerá, že Google opäť čelí kontroverzii ohľadom zaobchádzania so zamestnancom, ktorý nešiel do línie spoločnosti, a je to pre spoločnosť skutočne zlý pohľad.

Čo myslíte, aký telefón s Androidom vládol v roku 2020?
najlepší z najlepších

Čo myslíte, aký telefón s Androidom vládol v roku 2020?

Od Galaxy Z Fold 2 po OnePlus 8T bola v roku 2020 vydaná tona vynikajúcich telefónov s Androidom. Čo zo všetkého, čo vyšlo, celkovo vyniká ako najlepšie?

Nie všetko okolo roku 2020 bolo na hovno - lacné telefóny boli opäť dobré
strieborný obklad playbook

Nie všetko okolo roku 2020 bolo na hovno - lacné telefóny boli opäť dobré.

Vzhľadom na súhru faktorov vrátane turbulentných trhových síl, zmien materiálov a čipov a globálnej pandémie bol rok 2020 v skutočnosti transparentným rokom pre kvalitné a dostupné smartphony. Dúfajme, že akonáhle sa prach usadí v tomto hroznom roku, bude to jedna dobrá vec, ktorá nám zostane.

Recenzia Zepp Z: Vynikajúce hodinky brzdia dve chyby softvéru
Silný a inteligentný

Recenzia Zepp Z: Vynikajúce hodinky brzdia dve chyby softvéru.

Existuje veľa inteligentných hodiniek a nový Zepp Z prichádza pod uhlom prémiových materiálov so solídnou sadou dobrých životných podmienok. Tieto hodinky majú vlastnú príchuť softvéru a môžu sa pochváliť 15 až 30 dňovou výdržou batérie medzi nabitiami, ale tento softvér je kvôli dvom významným funkciám inteligentných hodiniek vynechaný.

Toto sú najlepšie telefóny OnePlus, ktoré si môžete kúpiť v roku 2020
S ktorým sa nikdy neuspokojiť

Toto sú najlepšie telefóny OnePlus, ktoré si môžete kúpiť v roku 2020.

Uvažujete o pripojení k tímu OnePlus, ale nie ste si istí, ktorá z pomôcok spoločnosti je pre vás to pravé? Pomôžeme vám nájsť dokonalý telefón OnePlus!

instagram story viewer