Blake Lemoine, Googleov inženjer suspendiran je s plaćom nakon što je javno iznio svoje mišljenje da je Googleov revolucionarni AI chatbot LaMDA je bio osjećajni stroj sa stvarnim svjesnim.
Lemoine je došao do ovog zaključka nakon što je radio s modelom i vodio duboke razgovore koji su ga naveli da vjeruje da umjetna inteligencija ima "dušu" i da je slična djetetu koje poznaje fiziku.
To je zanimljiv, a možda i potreban razgovor. Google i druge tvrtke za istraživanje umjetne inteligencije odvele su neuronske mreže LLM-a (model velikog jezika) u smjeru da zvuče poput stvarnog čovjeka, često sa spektakularnim rezultatima.
Ali na kraju, algoritam radi točno ono za što je programiran - zavaravajući nas da mislimo da razgovaramo sa stvarnom osobom.
Što je LaMDA?
LaMDA, i drugi veliki AI "chatbotovi" proširenje su nečega poput Alexa ili Google Assistant. Dajete neku vrstu unosa, a komplicirani skup računalnih algoritama odgovara izračunatim rezultatom.
Ono po čemu se LaMDA (Jezični model za aplikacije dijaloga) razlikuje jest njegova veličina. Obično će umjetna inteligencija analizirati ono što joj se predstavlja u vrlo malim dijelovima i tražiti ključne riječi ili pravopisne i gramatičke pogreške kako bi znala kako odgovoriti.
LaMDA je ono što je poznato kao LLM. Veliki jezični model je naziv za vrstu neuronske mreže računala koja su hranjena nevjerojatnom količinu teksta kako bi ga naučili generirati odgovore koji ne samo da su točni nego i zvuče kao drugi osoba.
LaMDA je spektakularna zbog svojih razmjera.
Proboj LaMDA-e bio je u tome što je Google uspio poboljšati ispis i prilagoditi ga tako da je zvučno sličan načinu na koji osoba stvarno govori. Na primjer, svi smo čuli "U redu, palim svjetlo u spavaćoj sobi" ili nešto slično od Google pomoćnik ako koristimo naše omiljene pametne žarulje.
LaMDA bi umjesto toga mogla odgovoriti s nečim poput "OK, ovdje je prilično mračno, zar ne?" To više zvuči kao da razgovarate s osobom nego s malom kutijom sklopova.
To čini analizom ne samo riječi, već čitavih blokova jezika. Uz dovoljno memorije, može zadržati odgovore na više odlomaka vrijednih unosa i razvrstati koji od njih koristiti i kako da odgovor izgleda prijateljski i ljudski.
Mjerilo je veliki dio jednadžbe/imam dosadnu tipfelersku grešku I stalno napraviti: "isn; t" umjesto "nije." Jednostavni algoritmi poput Chromeove provjere pravopisa ili Grammarlyja mogu prepoznati moju pogrešku i reći mi da je popravim.
Nešto poput LaMDA bi umjesto toga moglo procijeniti cijeli odlomak i javiti mi što misli o stvarima koje govorim i ispravi moj pravopis. To je ono za što je dizajniran.
Ali je li zapravo osjećajan i je li to pravi problem?
Lemoine svakako vjeruje da je LaMDA živa stvar koja diše. Dosta je rečeno o njegovom mentalnom stanju ili o tome koliko bi njegov stil života mogao biti šašav, pa neću ništa reći osim što čovjek vjeruje da LaMDA ima stvarne osjećaje i ponašao se iz ljubaznosti kad je izašao u javnost sa svojim misli. Google je, naravno, mislio drugačije.
Ali ne, ne mislim da je LaMDA ili bilo koja LLM neuronska mreža osjetljiva niti može biti, barem s današnjom tehnologijom. Odavno sam naučio da nikad ne reci nikad. Trenutno LaMDA reagira samo onako kako je programirana i ne treba razumjeti što govori na isti način na koji to čini osoba.
To je kao da vi ili ja ispunjavamo križaljku, a ne znamo što riječ znači ili uopće jest. Samo znamo pravila i da stane gdje i kako treba stati.
4 slova — imenica. Čvrsta dlaka ili čekinja. (To je Seta, ali sam probao SEGA 10 puta).
Samo zato što nismo blizu dana kada će se pametni strojevi pojaviti i pokušati ubiti sve ljude ne znači da ne bismo trebali biti zabrinuti. Učiti računala da zvuče ljudskije doista nije dobra stvar.
To je zato što računalo može — opet — odgovoriti samo onako kako je programirano da odgovori. To programiranje možda nije uvijek u najboljem interesu društva. Već vidimo zabrinutost zbog pristranosti umjetne inteligencije jer su ljudi koji rade na programiranju uglavnom dobrostojeći muškarci u svojim dvadesetima. Sasvim je prirodno da će njihovo životno iskustvo utjecati na donošenje odluka umjetne inteligencije.
Napravite korak dalje i razmislite o tome što bi netko s lošim namjerama mogao programirati. Zatim razmislite o tome da bi mogli imati sposobnost da zvuči kao da dolazi od osobe, a ne od stroja. Računalo možda ne može činiti loše stvari u fizičkom svijetu, ali može uvjeriti ljude da ih čine.
LaMDA je nevjerojatna i ljudi koji dizajniraju sustave poput nje rade nevjerojatan posao koji će utjecati na budućnost. Ali to je još uvijek samo računalo, iako zvuči kao da vaš prijatelj nakon previše 420 sesija počne razgovarati o životu, svemiru i svemu.