Blake Lemoine, inžinier spoločnosti Google, bol pozastavený s platením po tom, čo zverejnil svoje myšlienky, že prelomový chatbot Google s umelou inteligenciou LaMDA bol vnímavý stroj so skutočným vedomím.
Lemoine dospel k tomuto záveru po práci s modelom a po hĺbkových rozhovoroch, ktoré ho viedli k presvedčeniu, že AI má „dušu“ a je podobná dieťaťu so znalosťami fyziky.
Je to zaujímavý a možno aj potrebný rozhovor. Google a ďalšie spoločnosti zaoberajúce sa výskumom AI zaviedli neurónové siete LLM (veľký jazykový model) smerom, vďaka ktorému znejú ako skutočný človek, často s úžasnými výsledkami.
Ale nakoniec, algoritmus robí len presne to, na čo bol naprogramovaný – oklame nás, aby sme si mysleli, že hovoríme so skutočnou osobou.
čo je LaMDA?
LaMDA, a ďalšie rozsiahle AI „chatboty“ sú rozšírením niečoho ako Alexa alebo Google Assistant. Poskytnete nejaký druh vstupu a komplikovaná sada počítačových algoritmov odpovie vypočítaným výstupom.
Čím sa LaMDA (jazykový model pre dialógové aplikácie) líši, je jeho rozsah. Umelá inteligencia zvyčajne analyzuje, čo sa jej predkladá vo veľmi malých kúskoch, a hľadá kľúčové slová alebo pravopisné a gramatické chyby, aby vedela, ako reagovať.
LaMDA je to, čo je známe ako LLM. Veľký jazykový model je názov pre typ neurónovej siete počítačov, ktoré boli neuveriteľne napájané množstvo textu, aby ste ho naučili generovať odpovede, ktoré sú nielen správne, ale aj znejú ako iné osoba.
LaMDA je veľkolepá vďaka svojej veľkosti.
Prelom LaMDA spočíval v tom, ako Google dokázal vylepšiť výstup a vyladiť ho tak, aby bol počuteľne podobný tomu, ako človek skutočne hovorí. Všetci sme napríklad počuli „Dobre, rozsvietim svetlo v spálni“ alebo niečo podobné z Google Assistant ak používame naše obľúbené inteligentné žiarovky.
LaMDA by namiesto toho mohla odpovedať niečím ako "Dobre, je tu dosť tma, však?"To znie skôr ako keby ste sa rozprávali s človekom, než ako malá škatuľka okruhov."
Robí to analýzou nielen slov, ale celých blokov jazyka. S dostatočnou pamäťou dokáže uchovať odpovede na viacero odstavcov a určiť, ktorý z nich použiť a ako dosiahnuť, aby odpoveď pôsobila priateľsky a ľudsky.
Mierka je veľká časť rovnice/ Mám nepríjemný preklep I vždy urobiť: "isn; t“ namiesto „nie je.“ Jednoduché algoritmy, ako je kontrola pravopisu prehliadača Chrome alebo gramatika, dokážu rozpoznať moju chybu a povedať mi, aby som ju opravil.
Niečo ako LaMDA by namiesto toho mohlo vyhodnotiť celý odsek a dať mi vedieť, čo si myslí o veciach, ktoré hovorím a opravte mi pravopis. To je to, na čo bol navrhnutý.
Je to však skutočne vnímavé a je to skutočný problém?
Lemoine určite verí, že LaMDA je živá, dýchajúca vec. O jeho duševnom stave alebo o tom, aký bláznivý môže byť jeho životný štýl, sa toho už popísalo dosť, takže nebudem nič hovoriť až na to, že muž verí, že LaMDA má skutočné city a konal z láskavosti, keď vyšiel na verejnosť so svojimi myšlienky. Google to, samozrejme, cítil inak.
Ale nie, nemyslím si, že LaMDA alebo akákoľvek LLM neurónová sieť je vnímavá alebo môže byť, aspoň s dnešnou technológiou. Už dávno som sa naučil nikdy nehovor nikdy. Práve teraz LaMDA reaguje len tak, ako bol naprogramovaný, a nemusí rozumieť tomu, čo hovorí, rovnako ako človek.
Je to ako keď vy alebo ja vypĺňame krížovku a nevieme, čo to slovo znamená alebo dokonca je. Vieme len pravidlá a to, že to sedí tam, kde a ako to pasovať má.
4 písmená — podstatné meno. Tuhé vlasy alebo štetiny. (Je to Seta ale skúšal som SEGA 10x).
Len preto, že nie sme blízko dňa, keď inteligentné stroje povstanú a pokúsia sa zabiť všetkých ľudí, neznamená to, že by nás to nemalo znepokojovať. Naučiť počítače, aby zneli ľudskejšie, naozaj nie je dobrá vec.
Je to preto, že počítač môže – opäť – reagovať len tak, ako bol naprogramovaný. Toto programovanie nemusí byť vždy v najlepšom záujme spoločnosti. Už teraz vidíme obavy zo zaujatosti AI, pretože ľudia, ktorí programujú, sú väčšinou dobre situovaní muži vo veku dvadsať rokov. Je len prirodzené, že ich životné skúsenosti ovplyvnia rozhodovanie AI.
Urobte krok ďalej a premýšľajte o tom, čo by mohol naprogramovať niekto so skutočnými zlými úmyslami. Potom zvážte, že by mohli mať schopnosť, aby to znelo, akoby to pochádzalo od človeka a nie od stroja. Počítač nemusí byť schopný robiť zlé veci vo fyzickom svete, ale môže presvedčiť ľudí, aby ich robili.
LaMDA je neuveriteľné a ľudia, ktorí navrhujú systémy ako on, robia úžasnú prácu, ktorá ovplyvní budúcnosť. Ale stále je to len počítač, aj keď to znie ako váš priateľ po príliš mnohých 420 sedeniach a začnú hovoriť o živote, vesmíre a všetkom.