Google tvrdo pracuje, aby sa uistil, že AI nie je zlá

Pravdepodobne ste už počuli alebo čítali ľudí hovoriť o etickej AI. Zatiaľ čo počítače v skutočnosti nedokážu myslieť, a preto nemajú žiadnu skutočnú zaujatosť alebo zmysel pre zodpovednosť, ľudia, ktorí vyvíjajú softvér, ktorý to všetko poháňa, to určite robia, a preto je to dôležité.

Nie je ľahké to opísať alebo si všimnúť. To nič neuberá na tom, aké dôležité je, že veľké technologické spoločnosti, ktoré vyvíjajú produkty orientované na spotrebiteľov poháňané AI, to robia správne. Poďme sa pozrieť na to, čo to je a čo sa robí, aby sme sa uistili, že AI robí naše životy lepšími a nie horšími.

AI nie je nič iné ako kus softvéru, ktorý niečo prijme, spracuje a niečo iné vypľuje. Naozaj, to robí všetok softvér. Čo odlišuje AI je to, že výstup sa môže výrazne líšiť od vstupu.

Vezmite ChatGPT

alebo Google Bard napríklad. Môžete požiadať buď o vyriešenie matematických úloh, vyhľadať si niečo na webe, povedať vám, v ktorý deň zomrel Elvis Presley, alebo vám napísať krátky príbeh o histórii katolíckej cirkvi. Nikoho by nenapadlo, že ho môžete použiť tvoj telefón za to pred niekoľkými rokmi.

Niektoré z nich sú celkom jednoduché úlohy. Softvér, ktorý je integrovaný s internetom, dokáže získať informácie o čomkoľvek a vrátiť ich späť ako odpoveď na dotaz. Je to skvelé, pretože to môže ušetriť čas, ale nie je to naozaj úžasné.

Jedna z týchto vecí je však iná. Softvér sa používa na vytváranie zmysluplného obsahu, ktorý využíva ľudské spôsoby a reč, čo nie je možné vyhľadať na Googli. Softvér rozpozná, čo sa pýtate (napíšte mi príbeh) a parametre, ktoré sa na to majú použiť (historické údaje o katolíckej cirkvi), ale zvyšok sa zdá byť úžasný.

Verte alebo nie, zodpovedný vývoj je dôležitý pri oboch typoch použitia. Softvér o ničom zázračne nerozhoduje a treba ho trénovať zodpovedne, využívajúc zdroje, ktoré sú buď nezaujaté (nemožné) alebo rovnako zaujaté zo všetkých strán.

Nechcete, aby Bard použil niekoho, kto si myslí, že Elvis je stále nažive ako jediný zdroj pre deň, keď zomrel. Tiež by ste nechceli, aby niekto, kto nenávidí katolícku cirkev, naprogramoval softvér používaný na napísanie príbehu o nej. Oba hľadiská treba zvážiť a porovnať s inými platnými hľadiskmi.

Na etike záleží rovnako ako na udržiavaní prirodzenej ľudskej zaujatosti na uzde. Spoločnosť, ktorá môže niečo vyvinúť, sa musí uistiť, že sa to používa zodpovedne. Ak to nedokáže, musí to vôbec nerozvíjať. To je klzký svah – taký, ktorý je oveľa ťažšie zvládnuť.

Spoločnosti, ktoré vyvíjajú zložitý softvér AI, si to uvedomujú a verte tomu alebo nie, väčšinou sa riadia pravidlom, že niektoré veci by sa jednoducho nemali robiť, aj keď môcť vyrobené.

Oslovil som Microsoft aj Google ohľadom toho, čo sa robí, aby sa AI používala zodpovedne. Microsoft mi povedal, že nemajú nič nové, čo by mohli zdieľať, ale nasmeroval ma na sériu firemných odkazov a blogových príspevkov na túto tému. ich prečítanie ukazuje, že Microsoft sa zaväzuje „zaistiť, aby pokročilé systémy umelej inteligencie boli bezpečné, zabezpečené a dôveryhodné“ v súlade so súčasnou politikou a osnovami USA jeho interné normy veľmi podrobne. Microsoft má momentálne celý tím pracuje na zodpovednej AI.

Oproti tomu Google má okrem už zverejnených vyjadrení čo povedať. Nedávno som sa zúčastnil na prezentácii o tejto téme, kde vedúci zamestnanci spoločnosti Google povedali, že jediné preteky v oblasti AI, na ktorých záleží, sú preteky o zodpovednú AI. Vysvetlili, že len preto, že je niečo technicky možné, nie je dostatočným dôvodom na to, aby sme dali produktu zelenú: škodí je potrebné identifikovať a zmierniť ako súčasť procesu vývoja, aby sa potom mohli použiť na ďalšie spresnenie proces.

Ako príklady boli uvedené rozpoznávanie tváre a detekcia emócií. Google je naozaj dobrý v oboch a ak tomu neveríte, pozrite sa na to Fotky Google kde môžete vyhľadať konkrétnu osobu alebo šťastných ľudí na vlastných obrázkoch. Je to tiež funkcia číslo jedna požadovaná potenciálnymi zákazníkmi, ale Google ju odmieta ďalej rozvíjať. Potenciálna škoda je dostatočná na to, aby za ňu Google odmietol vziať peniaze.

Aj Google je za vládnu reguláciu, ako aj internú reguláciu. To je prekvapujúce a zároveň dôležité, pretože rovnaké podmienky pre všetkých nemôže vytvoriť žiadna spoločnosť škodlivá AI je niečo, o čom si Google aj Microsoft myslia, že preváži akýkoľvek potenciálny príjem resp finančný zisk.

Najviac na mňa zapôsobila odpoveď Google, keď som sa pýtal na vyváženie presnosti a etiky. Pre niečo ako identifikácia rastlín je presnosť veľmi dôležitá, zatiaľ čo zaujatosť je menej dôležitá. Pre niečo, ako je identifikácia niekoho pohlavia na fotke, sú obe rovnako dôležité. Google rozdeľuje AI na to, čo nazýva plátky; každý plátok robí inú vec a výsledok je hodnotený tímom skutočných ľudí, aby skontrolovali výsledky. Úpravy sa robia dovtedy, kým nie je tím spokojný, potom môže nastať ďalší vývoj.

Nič z toho nie je dokonalé a všetci sme videli, ako AI robí alebo opakuje veľmi hlúpe veci, niekedy dokonca zraňujúce veci. Ak si tieto predsudky a etické porušenia dokážu nájsť cestu do jedného produktu, môžu (a nájdu) si cestu do všetkých z nich.

Dôležité je, že spoločnosti vyvíjajúce softvér budúcnosti si to uvedomujú a neustále sa snažia zlepšovať tento proces. Nikdy to nebude dokonalé, ale pokiaľ je každá iterácia lepšia ako tá posledná, ideme správnym smerom.