Член

Google даде списък с искания от екипа на Ethical AI във вътрешен спор

protection click fraud

Не е известно Google да има най-добрата етична репутация. Компанията непрекъснато е засегната с твърдения за поверителност и антитръст и в момента е в разгара на няколко съдебни дела около неговите практики. Така че, когато този етичен дебал се появи около уволнението на съавтора на етичния екип на Google AI, това определено не беше добър външен вид за компанията. Сега е представено писмо от шест страници до главния изпълнителен директор на Google, Сундар Пичай, изброявайки няколко искания компанията да оправи нещата.

Обстоятелствата около условията, при които Timnit Gebru беше уволнен от Google, са сложни и ние имаме по-цялостен поглед върху ситуацията в отделна статия. Накратко, Гебру написа статия, която критикува езиковите модели, които са твърде големи, за да се смекчат, и изразява загриженост относно това как тези езикови модели могат да доведат до етични рискове като екологични расизъм. Същите тези AI технологии се намират в много приложения, използвани в днешния ден най-добрите устройства с Android

, така че Google беше разбираемо загрижен за последиците. Докладът й не беше приет веднага и бе поискано тя да направи промени, за да отрази последните усилия на Google за справяне с подобни опасения.

VPN сделки: Доживотен лиценз за $ 16, месечни планове от $ 1 и повече

Когато ситуацията става малко облачна, нещата се обработват след това, но след като се твърди, че Google не е изпълнил исканията на Gebru за нея да направи промените, тя е уволнена. Последствията прераснаха във вътрешен и много публичен сблъсък между етичния екип на Google AI и ръководителите на компании. Сега останалият екип представи на ръководителите на компании списък с изисквания в писмо, озаглавено "Бъдещето на етичния ИИ в Google Research".

Недалновидното решение на Google да уволни и да отмъсти срещу основен член на екипа по етичен AI дава ясно да се разбере, че ние се нуждаят от бързи и структурни промени, ако тази работа ще продължи и ако легитимността на полето като цяло е да упорствайте. Това изследване трябва да може да оспори краткосрочните интереси на компанията и непосредствените приходи програми, както и за разследване на ИИ, който се прилага от конкурентите на Google със сходна етичност мотиви.

Като част от писмото изследователският екип призовава за отстраняването на инженерния вицепрезидент Меган Качолия от отчетната структура, заявявайки, че те са "загубили доверие в нея като лидер". Той също така иска и тя, и шефът на ИИ Джеф Дийн да се извинят на Гебру. Наред с други изисквания, като например да се пазят служителите, които защитават Gebru, в безопасност от отмъщение, писмото също така предлага на Google да позволи на Gebru да се върне на позицията си на по-високо ниво.

Докато главният изпълнителен директор Сундар Пичай се извини и се ангажира да разследва ситуацията, изследователите питат това ще им бъдат дадени подробности за нейното уволнение, за да могат да имат цялостен поглед върху ситуацията и от двамата страни. Дори американските сенатори Елизабет Уорън и Кори Букър също се подканиха и поискаха подробности за Вътрешното разследване на Pichai и да проучи как Google се справя с дискриминацията в рамките на компания.

instagram story viewer