Cikk

A Google legújabb mesterséges intelligencia-etikai vita a saját Hubris terméke - még akkor is, ha betartatta a szabályokat

protection click fraud

Google CampusForrás: Android Central

Nemrégiben Dr. Timnit Gebru, akit a Google által valaha alkalmazott legjobb etikai mesterséges intelligencia-kutatóként elismertek, elváltak a vállalattól. Ez sem volt túl szívélyes szakítás.

Mindez egy olyan cikkből származik, amelyet Gebru egy informatikai konferencián szándékozott bemutatni 2021 márciusában az intelligencia intelligenciájáról - az Android által használt dolgokról a legjobb telefonok minden nap. A Google állítása szerint 14 munkanap szükséges az ilyen típusú írások vagy prezentációk jóváhagyásához ha egy alkalmazott azt hirdeti, hogy a Google-nál dolgozik. Ez annak köszönhető, hogy a vállalatnak esélye van arra, hogy megbizonyosodjon róla, hogy minden róla szóló adat helytálló és aktuális. Ez nem rossz, és a legtöbb vállalatnak hasonló politikája lesz a kutatási dokumentumok körül.

VPN ajánlatok: Élettartamra szóló licenc 16 dollárért, havi tervek 1 dollárért és még több

A dolgok eltérnek attól, hogy mindkét oldal hogyan ábrázolja a továbbiakat.

Timnit GebruForrás: Getty ImagesDr. Timnit Gebru

Gebru szerint valóban nincs szigorú és gyors politika a kutatási cikkekkel vagy az előadások áttekintésével kapcsolatban, és a Google mindig rugalmas volt ezen a területen. A cikk áttekintése után a Google visszavetette azokat a részleteket, amelyek nem a legjobb megvilágításban ábrázolták. A társaság ezután kirúgta az eset miatt, az események változata szerint. A Google Walkout, az ex-alkalmazottak egy csoportja, amely lapokat tart a Google tévedéseiről, megjelent mély pillantás a történet Gebru oldalára.

Minden történetnek két oldala van. Mindkettő miatt a Google rosszul néz ki.

Jeff Dean, a Google AI osztályának vezetője kapott megbízást a kidolgozásra A Google oldala a történetben, pedig nem ő engedte el Gebru-t. Dean szerint, miután Gebru elmondta, az előadásnak javításokra van szüksége, és be kell vonni a Google változtatási terveit mesterséges intelligencia programja alapján felsorolta azokat a követelményeket a vállalatnak, amelyeknek teljesülniük kell, mielőtt visszatérne a munkába. A Google nem tudta teljesíteni ezeket az igényeket, és Gebru lemondását elfogadták.

Mindkét fél elutasította a nyilvános kommentárok megfogalmazását ezen online bejegyzések mellett, de a Google vezérigazgatója, Sundar Pichai küldött belső feljegyzés az egész társaságnak, elnézést kérve azért, hogy a vállalat kezelte önmagát. Pichai feljegyzéséből:

Először - fel kell mérnünk azokat a körülményeket, amelyek Dr. Gebru távozásához vezettek, megvizsgálva, hol javulhatnánk és tiszteletreméltóbb folyamatot vezethetnénk. Elkezdjük a történtek áttekintését, hogy azonosítsuk az összes olyan pontot, ahol megtanulhatjuk - mindent figyelembe véve a deeskálációs stratégiáktól az új folyamatokig, amelyeket bevezethetünk. Jeff és én beszéltünk és teljes mértékben elkötelezettek vagyunk ennek érdekében. A Google mérnöki kultúrájának egyik legjobb aspektusa őszinte vágyunk, hogy megértsük, hol mennek rosszul a dolgok, és hogyan tudunk fejlődni.

Másodszor - felelősséget kell vállalnunk azért, hogy egy kiemelkedő fekete, hatalmas tehetségű női vezető boldogtalanul távozott a Google-től. Ennek a veszteségnek hullámzó hatása volt a legkevésbé képviselt közösségeinken keresztül, akik látták önmagukat és tapasztalataik egy részét Dr. Gebru-ban. Ez azért is élénken érezhető volt, mert Dr. Gebru az AI etika egy fontos területének szakértője, amelyre nekünk is szükségünk van továbbra is haladjon előre - olyan fejlődés, amely attól függ, hogy képesek vagyunk-e kihívást feltenni magunknak kérdések.

Jeff DeanForrás: Vezetékes A Google AI osztályának vezetője, Jeff Dean

Lehetetlen pontosan tudni, hogy mi történt, hacsak nem vettél részt a folyamat során, mert mindkét fél ez a vita olyan események fordulatát kínálja, amelyeknek önmagukban van értelme, annak ellenére, hogy a két mondás nagyon is különböző. Pichai szerint a legfontosabb, hogy megtudja, mi történt és miért, hogy kijavítsa a problémákat, és nagyon jó látni - a vezérigazgató ezúttal helyesen cselekszik, és sok sikert kívánunk neki. De valójában ez alig különbözteti meg a Google saját etikai gyakorlatának nagyobb kérdéseit: ez történt, és nem kellett volna.

Dr. Gebru igényeinek listája úgy néz ki, mint egy lista arról, hogy a Google hogyan lehetne jobb.

A Google-nek joga van a követelések listáját lemondó levélként tekinteni. De nézzük meg egy percig ezeket az igényeket. Gebru feltételei a következők voltak: 1) megtudni, ki aktívan szorgalmazta papírjának visszavonását, 2) van-e egy sor megbeszélések a Google etikai AI csoportjával a kérdésekről, és 3) annak kiderítése, hogy a Google pontosan mit tart elfogadhatónak kutatás. Ha a céged zavarja a párosítást van etikai mesterséges intelligencia részleg, úgy tűnik, hogy ezek az "igények" mindenki számára előnyösek.

Dean rámutat arra is, hogy Gebru tanulmánya kihagyott részleteket arról, hogy a Google hogyan tervezi megváltoztatni az AI megközelítését, és igazságosnak érezte, hogy ezeket a részleteket is belefoglalják. Ez azért van, mert a Google tudja, hogy az úgynevezett nagy nyelvi modellek etikai megfontolásai miatt nem néz ki olyan nagyszerűen. Kiváló előrelépést nyújtott az egyik legösszetettebb modellnek, de nem segítette a fejlődését.

A Galaxy S10 bemutatja a Google Duplex szolgáltatástForrás: Android Central

Nagy nyelvű modellek képeznek abszurd módon nagy mennyiségű szöveget. Ezt a szöveget az internetről gyűjtötték, és tele lehet rasszista, szexista és mindenféle más sértő és bántalmazó nyelvvel, amelynek nincs helye az ügyfelekkel való interakcióra tervezett modellben. A probléma az, hogy a nyelv fejlődik, és minden AI nyelvi modellt folyamatosan át kell képezni, hogy lépést tartson az idővel.

Ez az a hely, ahol a Google nem volt szorgalmas, és nagy nyelvi modelljeihez több képzésre van szükség, hogy néhányat felvegyen dolgokat, figyelmen kívül hagyja más dolgokat, és jobban képviseli azokat az embercsoportokat, akiknek hagyományosan kevés hozzáférésük van a Internet. Röviden, a Google mesterséges intelligenciáját olyan szöveg felhasználásával képezték ki, amelyet többnyire ugyanúgy kinéző és cselekvő emberek írtak. Ez nagy része annak, amiről az etikus mesterséges intelligencia szól - annak biztosítása, hogy mindenki egyenlően képviseltesse magát, és hogy a modellek változó időkben fejlődjenek.

"Az AI által generált nyelv homogenizálódik, tükrözve a leggazdagabb országok és közösségek gyakorlatát" - figyelmeztet az MIT Technology Review.

Természetesen a Google inkább izzó szavakat mondana a javasolt változtatásokról, hogy etikusabbá tegye az AI-t, amely olyan dolgokat működtet, mint az online keresés. De hajlandó volt elengedni az egyik legjobbat abban, hogy kilépjen a társaságból, egy olyan papír miatt, amely a jövőről szólva itt és most foglalkozott. Úgy hangzik, hogy a vállalati etika is némi kiigazítást igényel. De azt is könnyű megérteni, hogy a Google miért aggódik ennyire a látszat miatt - ez sokkal nagyobb ellenőrzés alatt áll, mint más cégek, amelyek alapot építenek az AI körül.

Android Messages intelligens válaszokForrás: Google

Ha az AI-t használó technológiai vállalatokra gondol és kevesebb, mint csillagokról van szó, amikor az ügyfelekkel bánnak, valószínűleg három nevet tart szem előtt: Amazon, Facebook és Google. Ezek a vállalatok az Ön arcán vannak, mert mindegyik olyan fogyasztói szolgáltatást nyújt, amelyet nap mint nap érintünk és érintünk. Ez azt jelenti, hogy ők kellene nagyon intenzív ellenőrzésnek kell alávetni, különösen, ha olyan új technológiáról van szó, mint a mesterséges intelligencia.

De azt is tudhatja, hogy más techcégek, mint a Microsoft, az NVIDIA és az IBM (ezek is vannak rengeteg), szintén mélyen foglalkoznak az AI-val, de sokkal kevésbé vizsgálják őket. Pár évvel ezelőtt engedélyezte a Microsoft egy mesterséges intelligencia-modell képzését antiszemita ötletek. Ez teljesen elfogadhatatlan, de nem érdemelte ki a Microsoft számára ugyanolyan szintű ellenőrzést, mint a Google.

Nekünk kellene akar hogy az összes techcéget intenzív ellenőrzés alatt tartsa.

Nem azt mondom, hogy a Google-t itt igazságtalanul kezelik. Ezt mondom minden az életünket bármilyen módon befolyásoló mesterséges intelligencia-modelleket kiépítő vállalatoknak minden egyes dologért mikroszkóp alatt kell lenniük. Érdekel a Google AI osztálya, mert az hajtja végre a kereséseket és a te postaládájába. A Facebooknak nagyon rossz tapasztalatai vannak az AI-modellekről, amelyek valótlan bejegyzéseket erősítenek. Az Amazon a mesterséges intelligencia segítségével folyamatosan figyeli a versenyt, és mit tud aláásni a vállalkozásaik számára.

IBM Watson AIForrás: IBM

Látjuk ezeket a dolgokat, de nem látjuk, hogy az IBM hogyan használja az AI-t pénzügyi szolgáltatásokhoz, egészségügyi szolgáltatásokhoz vagy ügyféltámogatási alkalmazásokhoz. Biztosan orvosi ellátása és bankszámlája ugyanolyan fontos, mint a Facebook idővonal vagy a Gmail postaládája.

Ezek valódi kérdések, amelyeket nem szabad félretolni. Valójában több olyan emberre van szükségünk, mint Dr. Gebru, aki felügyeli, hogyan végeznek munkát az AI-ban a mi az érdekeket szem előtt tartva. De itt és most minden bizonnyal úgy tűnik, hogy a Google ismét ellentmondásokkal néz szembe egy olyan alkalmazott kezelése kapcsán, aki nem tűrte a vállalati vonalat, és ez nagyon rossz megjelenés a vállalat számára.

Mit gondolsz, milyen androidos telefon volt az uralkodó 2020-ban?
a legjobbak legjobbja

Mit gondolsz, milyen androidos telefon volt az uralkodó 2020-ban?

A Galaxy Z Fold 2-től a OnePlus 8T-ig rengeteg kiváló Android-telefon jelent meg 2020-ban. Minden, ami megjelent, mi tűnik ki a legjobban?

Nem minden szívott meg 2020-ról - az olcsó telefonok ismét jók lettek
ezüst bélés játékkönyv

Nem minden szívott meg 2020-ról - az olcsó telefonok ismét jók lettek.

Az olyan tényezők összefolyása miatt, mint a turbulens piaci erők, az anyag- és chipcserék, valamint a globális járvány, 2020 valójában a minőségi, megfizethető okostelefonok zászlóév volt. Remélhetőleg, ha a por leülepedik ebben a szörnyű évben, ez egy jó dolog marad.

Zepp Z áttekintés: Kiváló órát két szoftverhiba akadályoz
Erős és okos

Zepp Z áttekintés: Kiváló órát két szoftverhiba akadályoz.

Nagyon sok okosóra van ott, és az új Zepp Z prémium anyagok szögéből érkezik, és jó közérzetet kínál. A szoftver saját ízével futó óra 15-30 napos akkumulátor-élettartammal rendelkezik a töltések között, de ez a szoftver hidegben marad két jelentős okosóra funkció miatt.

Ezek a legjobb OnePlus telefonok, amelyeket 2020-ban megvásárolhat
Melyikkel soha ne elégedjen meg

Ezek a legjobb OnePlus telefonok, amelyeket 2020-ban megvásárolhat.

Gondolkodik azon, hogy csatlakozik-e a Team OnePlushoz, de nem biztos benne, hogy a cég mely moduljai az Ön számára megfelelőek? Segítsen nekünk megtalálni a tökéletes OnePlus telefont!

instagram story viewer