Blake Lemoine, Googlov inženir, je bil plačano suspendiran, potem ko je javno objavil svoje misli, da je Googlov prebojni klepetalni robot AI LaMDA je bil čuteč stroj z dejansko zavestjo.
Lemoine je prišel do tega zaključka po delu z modelom in po globokih premišljenih pogovorih, ki so ga pripeljali do prepričanja, da ima AI "dušo" in je podoben otroku, ki pozna fiziko.
To je zanimiv in morda potreben pogovor. Google in druga podjetja za raziskave umetne inteligence so nevronska omrežja LLM (model velikega jezika) usmerila v smer, da zvenijo kot pravi človek, pogosto s spektakularnimi rezultati.
Toda na koncu algoritem počne točno to, za kar je bil programiran – zavede nas, da mislimo, da se pogovarjamo z dejansko osebo.
Kaj je LaMDA?
LaMDA, in drugi obsežni AI "klepetalni roboti" so razširitev nečesa, kot sta Alexa ali Google Assistant. Zagotovite neke vrste vnos in zapleten nabor računalniških algoritmov se odzove z izračunanim rezultatom.
LaMDA (Language Model for Dialogue Applications) je drugačna po svojem obsegu. Običajno bo AI analiziral, kar ji je predstavljeno v zelo majhnih kosih, in poiskal ključne besede ali črkovalne in slovnične napake, da bo vedel, kako se odzvati.
LaMDA je tisto, kar je znano kot LLM. Velik jezikovni model je ime za vrsto nevronske mreže računalnikov, ki so bili napajani z neverjetno količino besedila, da bi ga naučili ustvarjati odgovore, ki niso samo pravilni, ampak zvenijo kot drugi oseba.
LaMDA je spektakularen zaradi svojega obsega.
Preboj LaMDA je bil v tem, kako je Googlu uspelo izboljšati rezultat in ga prilagoditi, tako da je bil slišno podoben načinu, kako oseba dejansko govori. Na primer, vsi smo slišali "V redu, prižgem luč v spalnici" ali kaj podobnega iz Google Assistant če uporabljamo naše najljubše pametne žarnice.
LaMDA bi namesto tega lahko odgovorila z nekaj takega kot "V redu, tukaj je precej temno, kajne?"To zveni bolj tako, kot da se pogovarjate z osebo kot z majhno škatlico vezij.
To naredi tako, da analizira ne samo besede, ampak celotne jezikovne bloke. Z dovolj pomnilnika lahko zadrži odgovore na več odstavkov, ki so vredni vnosa, in razvrsti, katerega uporabiti ter kako narediti odgovor prijazen in človeški.
Lestvica je velik del enačbe/imam nadležno tipkarsko napako I nenehno make: "isn; t« namesto »ni.« Preprosti algoritmi, kot sta Chromovo preverjanje črkovanja ali Grammarly, lahko prepoznajo mojo napako in mi povedo, naj jo popravim.
Nekaj takega, kot je LaMDA, bi lahko namesto tega ocenilo celoten odstavek in mi povedalo, kaj si misli o stvareh, ki jih govorim in popravi moje črkovanje. Za to je bil zasnovan.
Toda ali je dejansko čuten in ali je to resnična težava?
Lemoine vsekakor verjame, da je LaMDA živa stvar, ki diha. Dovolj je bilo povedanega o njegovem duševnem stanju ali o tem, kako čuden je lahko njegov življenjski slog, zato ne bom rekel ničesar razen tega, da moški verjame, da ima LaMDA resnična čustva in da se je obnašal iz prijaznosti, ko je javno šel s svojim misli. Google je seveda menil drugače.
Ampak ne, mislim, da LaMDA ali katera koli LLM nevronska mreža ni čuteča ali da je lahko čuteča, vsaj z današnjo tehnologijo. Že zdavnaj sem se naučil, da nikoli ne reci nikoli. Trenutno se LaMDA odziva samo tako, kot je bilo programirano, in ni mu treba razumeti, kaj govori, na enak način kot oseba.
To je tako, kot da bi vi ali jaz izpolnili križanko in ne vemo, kaj beseda pomeni ali sploh je. Samo vemo pravila in da se spodobi, kamor in kako se spodobi.
4 črke — samostalnik. Trd las ali ščetina. (To je Seta, vendar sem poskusil SEGA 10-krat).
Samo zato, ker še nismo blizu dneva, ko se bodo pametni stroji dvignili in poskušali ubiti vse ljudi, še ne pomeni, da nas ne bi smelo skrbeti. Učiti računalnike, da zvenijo bolj človeško, res ni dobra stvar.
To je zato, ker se lahko računalnik – spet – odzove samo tako, kot je bil programiran za odziv. To programiranje morda ni vedno v najboljšem interesu družbe. Že zdaj opažamo pomisleke glede pristranskosti umetne inteligence, ker so ljudje, ki izvajajo programiranje, večinoma premožni moški v svojih dvajsetih. Povsem naravno je, da bodo njihove življenjske izkušnje vplivale na odločanje umetne inteligence.
Naredite korak naprej in razmislite o tem, kaj bi lahko programiral nekdo z dejansko slabimi nameni. Potem pomislite, da bi lahko imeli možnost, da bi zvok zvoka prihajal od osebe in ne od stroja. Računalnik morda ne more delati slabih stvari v fizičnem svetu, lahko pa prepriča ljudi, da jih počnejo.
LaMDA je neverjetna in ljudje, ki načrtujejo sisteme, kot je ta, opravljajo neverjetno delo, ki bo vplivalo na prihodnost. Ampak to je še vedno samo računalnik, čeprav se sliši, kot da vaš prijatelj po eni preveč 420 sejah začne govoriti o življenju, vesolju in vsem.