Raksts

Google jaunākais AI ētikas strīds ir paša radītās problēmas rezultāts, pat ja tas izpildīja noteikumus

protection click fraud

Google CampusAvots: Android Central

Nesen doktors Timnits Gebru, kurš tika atzīts par vienu no labākajiem ētikas pētniekiem, kurus Google jebkad ir pieņēmis darbā, šķīrās no uzņēmuma. Arī tas nebija ļoti sirsnīgs sadalījums.

Tas viss izriet no raksta, kuru Gebru bija iecerējis 2021. gada martā prezentēt datorzinātņu konferencē par AI ētiku - lietām, kuras Android izmanto iekšpusē labākie telefoni katru dienu. Google apgalvo, ka jebkura šāda veida rakstiska rakstura vai prezentācijas apstiprināšana prasa 14 darba dienas ja darbinieks sevi reklamē kā darbu Google. Tas ir tāpēc, ka uzņēmumam ir iespēja pārliecināties, vai visi dati par to ir pareizi un aktuāli. Tas nav nekas slikts, un lielākajai daļai uzņēmumu būs līdzīga politika saistībā ar pētījumu dokumentiem.

VPN piedāvājumi: mūža licence par 16 ASV dolāriem, ikmēneša plāni par 1 ASV dolāru un vairāk

Atšķiras lietas, kā katra puse attēlo to, kas notika tālāk.

Timnits GebruAvots: Getty ImagesDoktors Timnits Gebru

Gebru saka, ka patiešām nav stingras un ātras politikas attiecībā uz pētījumu dokumentiem vai prezentāciju pārskatiem, un Google šajā konkrētajā jomā vienmēr ir bijis elastīgs. Pēc dokumenta pārskatīšanas Google pēc tam atkāpās par dažām detaļām, kas to neatspoguļoja vislabākajā gaismā. Pēc tam uzņēmums atlaida viņu no incidenta,

pēc viņas versijas par notikumiem. Google Walkout, bijušo darbinieku grupa, kas kontrolē Google kļūdas, ir publicējis dziļi ieskatieties Gebru stāsta pusē.

Katram stāstam ir divas puses. Abi padara Google izskatās slikti.

Jeff Dean, Google AI nodaļas vadītājs, ir uzdevis izstrādāt projektu Google stāsta puse, kaut arī viņš nav tas, kurš atlaida Gebru. Pēc Dīna teiktā, pēc tam, kad Gebru bija teicis, prezentācijai ir nepieciešami labojumi un jāiekļauj Google plāni mainīties AI programmu, viņa uzņēmumam iesniedza to prasību sarakstu, kuras būtu jāizpilda pirms viņas atgriešanās darbā. Google nespēja izpildīt šīs prasības, un Gebru atkāpšanās tika pieņemta.

Abas puses atteikušās publiski komentēt aiz šiem tiešsaistes ierakstiem, bet Google izpilddirektors Sundars Pičai ir nosūtījis iekšējā piezīme visam uzņēmumam, atvainojoties par to, kā uzņēmums rīkojās pats. No Pičai piezīmes:

Pirmkārt - mums jānovērtē apstākļi, kas noveda pie Dr Gebru aiziešanas, pārbaudot, kur mēs būtu varējuši uzlabot un vadīt cieņpilnāku procesu. Mēs sāksim pārskatu par notikušo, lai identificētu visus punktus, kur mēs varam mācīties - ņemot vērā visu, sākot no deeskalācijas stratēģijām līdz jauniem procesiem, kurus varam ieviest. Mēs ar Džefu esam runājuši un esam pilnībā apņēmušies to darīt. Viens no labākajiem Google inženierkultūras aspektiem ir mūsu sirsnīgā vēlme saprast, kur notiek nepareizi un kā mēs varam pilnveidoties.

Otrkārt - mums jāuzņemas atbildība par to, ka ievērojama melnādainā sieviete ar milzīgu talantu sieviete neapmierināti pameta Google. Šim zaudējumam ir bijusi viļņošanās ietekme uz dažām mūsu vismazāk pārstāvētajām kopienām, kuras redzēja sevi un daļu no savas pieredzes Dr Gebru. Tas bija ļoti jūtams arī tāpēc, ka doktors Gebru ir eksperts svarīgā AI ētikas jomā, kas mums ir jāveic turpināt gūt panākumus - progress, kas atkarīgs no mūsu spējas uzdot sev izaicinājumu jautājumi.

Džefs DīnsAvots: Vadu Google AI nodaļas vadītājs Džefs Dīns

Nav iespējams precīzi zināt, kas notika, ja vien jūs neiesaistījāties procesā, jo abas puses šis strīds piedāvā tādu notikumu pavērsienu, kuriem ir jēga pašiem, kaut arī abi stāstījumi ir ļoti savādāk. Pichai saka, ka uzzināt, kas notika un kāpēc ir galvenā prioritāte, lai viņš varētu novērst problēmas, un tas ir lieliski redzēt - izpilddirektors šoreiz rīkojas pareizi, un mēs novēlam viņam veiksmi. Bet patiesībā tam ir maza atšķirība, runājot par lielākiem Google pašu ētiskās prakses jautājumiem: tas notika, un tam nevajadzēja būt.

Dr Gebru prasību saraksts izskatās kā saraksts ar to, kā Google varētu būt labāks.

Google ir tiesības prasību sarakstu uzskatīt par atkāpšanās vēstuli. Bet apskatīsim šīs prasības minūti. Gebru nosacījumi bija 1) uzzināt, kurš aktīvi aicināja atsaukt savu papīru, 2) ir kopums tikšanās ar Google Ethical AI komandu par jautājumiem un 3) noskaidrot, ko tieši Google uzskata par pieņemamu izpēte. Ja jūsu uzņēmums traucē izlīdzināties ir ētiska AI nodaļa, šķiet, ka šīs "prasības" ir izdevīgas visiem, kas tajā iesaistīti.

Dīns arī norāda, ka Gebru dokumentā tika izlaista informācija par to, kā Google plāno mainīt pieeju AI, un uzskatīja, ka ir taisnīgi vēlēties, lai šīs detaļas tiktu iekļautas. Tas ir tāpēc, ka Google zina, ka tas neizskatās tik lieliski, ja runa ir par tā dēvēto lielo valodu modeļu ētiskajiem apsvērumiem. Tas lieliski sekmēja apmācību par vienu no sarežģītākajiem modeļiem, taču nav palīdzējis tam attīstīties.

Galaxy S10, kas demonstrē Google dupleksuAvots: Android Central

Lieli valodu modeļi tiek apmācīti, izmantojot absurdi lielu teksta daudzumu. Šis teksts ir apkopots no interneta, un to var aizpildīt ar rasistisku, seksistisku un visa veida citu aizskarošu un aizskarošu valodu, kurai nav vietas modelī, kas paredzēts mijiedarbībai ar klientiem. Problēma ir tā, ka valoda attīstās, un jebkurš AI valodas modelis būtu nepārtraukti jāpārkvalificē, lai ietu līdzi laikam.

Tas ir tas, kur Google nav bijis rūpīgs, un tā lielajiem valodu modeļiem ir nepieciešama lielāka apmācība, lai tos iekļautu ignorēt citas lietas un labāk pārstāvēt cilvēku grupas, kurām tradicionāli ir maz piekļuves internets. Īsāk sakot, Google AI tika apmācīts, izmantojot tekstu, kuru galvenokārt rakstīja cilvēki, kuri izskatās un rīkojas tāpat. Tā ir liela daļa no ētiskā mākslīgā intelekta - pārliecinoties, ka visi ir vienādi pārstāvēti un ka modeļi attīstās mainīgā laikā.

"Mākslīgā intelekta radītā valoda tiks homogenizēta, atspoguļojot bagātāko valstu un kopienu praksi", brīdina MIT Technology Review.

Protams, Google labprātāk izvēlētos kvēlojošus vārdus par savām ierosinātajām izmaiņām, lai padarītu AI ētiskāku, kas nodrošina tādas lietas kā tiešsaistes meklēšana. Bet tas bija gatavs ļaut vienam no labākajiem, kas to paveica, izejot no uzņēmuma, papīra dēļ, kas koncentrējās uz šeit un tagad, nevis runāja par nākotni. Izklausās, ka arī uzņēmuma ētika ir jāpielāgo. Bet ir arī viegli saprast, kāpēc Google ir tik noraizējies par izskatu - tas tiek pakļauts daudz rūpīgākai pārbaudei nekā citi uzņēmumi, kas veido pamatu ap AI.

Android Messages viedās atbildesAvots: Google

Kad jūs domājat par tehnoloģiju uzņēmumiem, kas izmanto AI un jums ir mazāk nekā zvaigžņu pieredze, kad runa ir par attieksmi pret klientiem, iespējams, jums ir prātā trīs vārdi: Amazon, Facebook un Google. Šie uzņēmumi ir jūsu sejā, jo katrs sniedz patērētāja pakalpojumus, kuriem mēs katru dienu pieskaramies un mijiedarbojamies. Tas nozīmē, ka viņi vajadzētu jāpakļauj ļoti intensīvai pārbaudei, it īpaši attiecībā uz jaunām tehnoloģijām, piemēram, mākslīgo intelektu.

Bet jūs varētu arī zināt, ka citi tehnoloģiju uzņēmumi, piemēram, Microsoft, NVIDIA un IBM (arī to ir daudz vairāk), arī ir cieši saistīti ar AI, taču tiek pakļauti daudz mazāk pārbaudei. Tikai pirms dažiem gadiem Microsoft ļāva apmācīt AI modeli antisemītiskas idejas. Tas ir pilnīgi nepieņemami, taču tas nepelnīja Microsoft tādu pašu pārbaudes pakāpi, kāda ir Google.

Mums vajadzētu gribu redzēt visus tehnoloģiju uzņēmumus intensīvā uzraudzībā.

Es nesaku, ka šeit pret Google izturas netaisnīgi. Es to saku visi uzņēmumiem, kas izstrādā AI modeļus, kas jebkādā veidā ietekmē mūsu dzīvi, vajadzētu būt mikroskopā par katru darāmo lietu. Jums rūp Google AI nodaļa, jo tā nodrošina jūsu meklējumus un tavs iesūtne. Facebook ir patiešām slikta pieredze ar AI modeļiem, kas pastiprina nepatiesas ziņas. Amazon izmanto AI, lai saglabātu cilnes par to, ko dara tās konkurence un kā tā var mazināt viņu biznesu.

IBM Watson AIAvots: IBM

Mēs redzam šīs lietas, taču neredzam, kā IBM izmanto AI finanšu pakalpojumiem, veselības aprūpes pakalpojumiem vai klientu atbalsta lietojumprogrammām. Jūsu medicīniskā aprūpe un bankas konts noteikti ir tikpat svarīgi kā jūsu Facebook laika skala vai Gmail iesūtne.

Tie ir reāli jautājumi, kurus nevajadzētu atstumt malā. Patiesībā mums vajag vairāk cilvēku, piemēram, Dr Gebru, kas pārrauga, kā tiek veikts darbs ar AI mūsu labākās intereses. Bet šeit un tagad tas noteikti izskatās, ka Google atkal saskaras ar pretrunām par attieksmi pret darbinieku, kurš nepameta uzņēmuma līniju, un tas ir patiešām slikts uzņēmuma izskats.

Kā jūs domājat, kāds Android tālrunis valdīja 2020. gadā?
labākais no labākajiem

Kā jūs domājat, kāds Android tālrunis valdīja 2020. gadā?

Sākot ar Galaxy Z Fold 2 un beidzot ar OnePlus 8T, 2020. gadā tika izlaists daudz lielisku Android tālruņu. Kas no visa iznākušā izceļas kā labākais kopumā?

Ne viss par 2020. gadu tika iesūcis - lēti tālruņi atkal kļuva labi
sudraba uzliku atskaņošanas grāmata

Ne viss par 2020. gadu tika iesūcis - lēti tālruņi atkal kļuva labi.

Sakarā ar faktoriem, kas saistīti ar nemierīgiem tirgus spēkiem, materiālu un mikroshēmu izmaiņām, un globālo pandēmiju, 2020. gads faktiski bija kvalitatīvu un pieejamu viedtālruņu karogs. Cerams, ka, tiklīdz putekļi nosēdīsies šajā briesmīgajā gadā, tā būs viena laba lieta, kas mums paliks.

Zepp Z pārskats: izcilu pulksteni kavē divi programmatūras trūkumi
Spēcīgs un gudrs

Zepp Z pārskats: izcilu pulksteni kavē divi programmatūras trūkumi.

Tur ir daudz viedpulksteņu, un jaunais Zepp Z nonāk augstākās klases materiālu leņķī ar stabilu labsajūtas funkciju komplektu. Izmantojot savu programmatūras garšu, šim pulkstenim ir 15 līdz 30 dienas ilgs akumulatora darbības laiks starp uzlādēm, taču šī programmatūra tiek atstāta aukstumā divām nozīmīgām viedpulksteņa funkcijām.

Šie ir labākie OnePlus tālruņi, kurus varat iegādāties 2020. gadā
Kuru nekad neapmierināt

Šie ir labākie OnePlus tālruņi, kurus varat iegādāties 2020. gadā.

Vai domājat par pievienošanos Team OnePlus komandai, bet vai neesat pārliecināts, kurš no uzņēmuma sīkrīkiem jums ir piemērots? Ļaujiet mums palīdzēt atrast perfektu OnePlus tālruni!

instagram story viewer