Felfüggesztették a fizetés miatt Blake Lemoine-t, a Google egyik mérnökét, miután nyilvánosságra hozta gondolatait, miszerint a Google áttörést jelentő AI chatbotja. A LaMDA egy érző gép volt tényleges tudattal.
Lemoine azután jutott erre a következtetésre, hogy a modellel dolgozott, és mélyen elgondolkodtató beszélgetéseket folytatott, amelyek elhitették vele, hogy az AI-nak van "lelke", és egy fizikát ismerő gyermekhez hasonlít.
Ez egy érdekes, és talán szükséges beszélgetés. A Google és más mesterséges intelligenciával foglalkozó kutatócégek az LLM (nagy nyelvi modell) neurális hálózatokat abba az irányba terelték, hogy azok valódi embernek tűnjenek, gyakran látványos eredményekkel.
De végül az algoritmus pontosan azt csinálja, amire be volt programozva – eltéveszt bennünket, hogy azt gondoljuk, hogy egy valós személlyel beszélünk.
Mi az a LaMDA?
LaMDA, és más nagyszabású AI "chatbotok" valami olyan kiterjesztései, mint az Alexa vagy a Google Assistant. Valamiféle bemenetet ad meg, és számítógépes algoritmusok bonyolult halmaza kiszámított kimenettel válaszol.
Ami a LaMDA-t (a párbeszédes alkalmazások nyelvi modelljét) különbözteti meg, az a léptéke. A mesterséges intelligencia általában nagyon kis darabokban elemzi a számára megjelenített tartalmat, és kulcsszavakat vagy helyesírási és nyelvtani hibákat keres, hogy tudja, hogyan reagáljon.
A LaMDA az úgynevezett LLM. A nagy nyelvi modell a számítógépek egyfajta neurális hálózatának elnevezése, amelyet hihetetlenül tápláltak szövegmennyiséget, hogy megtanítsa azt olyan válaszok generálására, amelyek nem csak helyesek, hanem úgy is hangzanak, mint egy másik személy.
A LaMDA a léptéke miatt látványos.
A LaMDA áttörése az volt, hogy a Google finomítani tudta a kimenetet, és úgy finomította, hogy az hallhatóan hasonlítson ahhoz, ahogyan egy személy ténylegesen beszél. Például mindannyian hallottuk, hogyRendben, felkapcsolom a hálószoba világítását" vagy valami hasonlótól Google Asszisztens ha használjuk kedvenc intelligens izzóink.
A LaMDA ehelyett valami ilyesmivel válaszolhatnaOké, itt elég sötét van, nem?"Ez inkább úgy hangzik, mintha valakihez beszélnél, mint egy kis doboz áramkörhöz.
Ezt nem csupán szavak, hanem teljes nyelvi blokkok elemzésével teszi. Elegendő memóriával több bekezdésnyi bemenetre képes válaszokat tárolni, és eldönteni, hogy melyiket használja, és hogyan tegye barátságosnak és emberinek a választ.
A skála az egyenlet nagy részét képezi/ Van egy bosszantó elírási hibám I mindig make: "isn; t" helyett "nem". Az olyan egyszerű algoritmusok, mint a Chrome helyesírás-ellenőrzése vagy a Grammarly, felismerik a hibámat, és felszólítják, hogy javítsam ki.
Valami olyasmi, mint a LaMDA, ehelyett kiértékelhetné az egész bekezdést, és tudatná velem, mit gondol az általam elmondottakról és javítsd ki a helyesírásomat. Erre tervezték.
De vajon valóban érző-e, és ez az igazi probléma?
Lemoine biztosan úgy véli, hogy a LaMDA élő, lélegző dolog. Eleget beszéltek már a mentális állapotáról, vagy arról, hogy milyen gagyi lehet az életmódja, ezért nem mondok semmit kivéve, hogy a férfi úgy gondolja, hogy LaMDA-nak valódi érzései vannak, és kedvességből cselekedett, amikor nyilvánosságra hozta az övéit gondolatok. A Google természetesen másképp érezte magát.
De nem, nem hiszem, hogy a LaMDA vagy bármely LLM neurális hálózat érző, és nem is lehet az, legalábbis a mai technológiával. Már régen megtanultam, hogy soha ne mondd, hogy soha. Jelenleg a LaMDA csak úgy reagál, ahogy beprogramozták, és nem kell ugyanúgy értenie, amit mond, mint egy személynek.
Ez olyan, mintha te vagy én kitöltenénk egy keresztrejtvényt, és nem tudjuk, mit jelent a szó, vagy mi az. Csak ismerjük a szabályokat és azt, hogy hol és hogyan illik hozzá.
4 betű — főnév. Merev haj vagy sörte. (Seta, de 10-szer próbáltam a SEGA-t).
Csak azért, mert nem vagyunk közel a naphoz, amikor az intelligens gépek felemelkednek és megpróbálnak minden embert megölni, még nem jelenti azt, hogy ne aggódjunk. Valóban nem jó dolog megtanítani a számítógépeket emberibb hangzásra.
Ennek az az oka, hogy a számítógép – ismét – csak úgy reagálhat, ahogyan arra programozták. Ez a programozás nem mindig szolgálja a társadalom érdekeit. Már most látunk aggodalmakat a mesterséges intelligencia elfogultsága miatt, mivel a programozók többnyire jómódú, huszonéves férfiak. Teljesen természetes, hogy élettapasztalataik hatással lesznek a mesterséges intelligencia döntéshozatalára.
Tegyen egy lépést tovább, és gondolja át, mit programozhat be valaki, akinek rossz szándéka van. Akkor gondold át, hogy képesek lehetnek úgy hangoztatni, mintha egy személytől jönne, nem pedig egy géptől. Lehet, hogy a számítógép nem képes rossz dolgokra a fizikai világban, de meggyőzheti az embereket, hogy megtegyék azokat.
A LaMDA hihetetlen, és a hozzá hasonló rendszereket tervező emberek csodálatos munkát végeznek, amely hatással lesz a jövőre. De ez akkor is csak egy számítógép, még akkor is, ha egy túl sok 420 alkalom után úgy hangzik, mint a barátod, és elkezdenek beszélni az életről, az univerzumról és mindenről.