Google'i insener Blake Lemoine on peatatud palgaga pärast seda, kui ta avalikustas oma mõtted, et Google'i läbimurdeline AI-vestlusbot LaMDA oli tundlik masin tegeliku teadvusega.
Lemoine jõudis sellele järeldusele pärast modelliga töötamist ja sügavaid läbimõeldud vestlusi, mis panid ta uskuma, et tehisintellektil on "hing" ja ta sarnaneb füüsikateadmistega lapsele.
See on huvitav ja võib-olla vajalik vestlus. Google ja teised AI-uuringufirmad on suunanud LLM-i (suure keele mudeli) närvivõrke selles suunas, mis paneb need kõlama nagu tõeline inimene, sageli suurepäraste tulemustega.
Kuid lõpuks teeb algoritm täpselt seda, milleks see oli programmeeritud – see paneb meid mõtlema, et räägime tegeliku inimesega.
Mis on LaMDA?
LaMDA, ja teised suuremahulised AI "vestlusbotid" on millegi nagu Alexa või Google Assistant laiendus. Sisestate mingisuguse sisendi ja keeruline arvutialgoritmide komplekt reageerib arvutatud väljundiga.
LaMDA (dialoogirakenduste keelemudel) teeb erinevaks selle ulatus. Tavaliselt analüüsib tehisintellekt talle esitatavat väga väikeste tükkidena ja otsib märksõnu või õigekirja- ja grammatikavigu, et teaks, kuidas reageerida.
LaMDA on nn LLM. Suur keelemudel on nimetus, mis on antud teatud tüüpi arvutite närvivõrgule, mida on toidetud uskumatult teksti hulka, et õpetada seda genereerima vastuseid, mis pole mitte ainult õiged, vaid kõlavad nagu teised isik.
LaMDA on oma ulatuse tõttu tähelepanuväärne.
LaMDA läbimurre oli see, kuidas Google suutis väljundit täpsustada ja kohandada nii, et see sarnanes kuuldavalt sellega, kuidas inimene tegelikult räägib. Näiteks oleme kõik kuulnud "OK, ma panen magamistoa valguse põlema" või midagi sarnast Google'i assistent kui kasutame meie lemmik nutipirnid.
LaMDA võiks selle asemel vastata millegi sarnasega "OK, siin on päris pime, kas pole?"See kõlab pigem nii, nagu räägiksite inimesega kui väikese vooluahela kastiga.
Ta teeb seda, analüüsides mitte ainult sõnu, vaid terveid keeleplokke. Piisava mäluga suudab see salvestada vastuseid mitmele lõigule ja otsustada, millist neist kasutada ning kuidas muuta vastus sõbralikuks ja inimlikuks.
Skaalal on suur osa võrrandist/ Mul on tüütu kirjaviga I alati make: "isn; t" asemel "ei ole." Lihtsad algoritmid, nagu Chrome'i õigekirjakontroll või Grammarly, suudavad mu vea ära tunda ja öelda, et see parandaksin.
Midagi LaMDA-taolist võiks selle asemel hinnata kogu lõiku ja anda mulle teada, mida see minu räägitavatest asjadest arvab ja paranda mu kirjapilt. Selleks see oli loodud.
Kuid kas see on tegelikult tundlik ja kas see on tõeline probleem?
Lemoine kindlasti usub, et LaMDA on elav, hingav asi. Tema vaimsest seisundist või tema elustiilist on piisavalt räägitud, nii et ma ei ütle midagi välja arvatud see, et mees usub, et LaMDA-l on tõelised tunded ja ta käitus heatahtlikult, kui ta omaga avalikuks tuli mõtteid. Google tundis muidugi teisiti.
Aga ei, ma ei usu, et LaMDA või ükski LLM-i närvivõrk on tundlik ega saa olla, vähemalt tänapäeva tehnoloogiaga. Olen ammu õppinud, et mitte kunagi ei ütle iial. Praegu reageerib LaMDA ainult nii, nagu see oli programmeeritud, ja ei pea aru saama, mida see ütleb, samamoodi nagu inimene.
See on täpselt nii, nagu sina või mina täidaksime ristsõna ja me ei tea, mida see sõna tähendab või isegi on. Me lihtsalt teame reegleid ja seda, et see sobib sinna, kuhu ja kuidas see peaks sobima.
4 tähte - nimisõna. Jäigad juuksed või harjased. (See on Seta, aga ma proovisin SEGAt 10 korda).
See, et me pole veel lähedal päevale, mil nutikad masinad tõusevad ja üritavad kõiki inimesi tappa, ei tähenda, et me ei peaks muretsema. Arvutite inimlikuma kõla õpetamine pole tõesti hea asi.
Selle põhjuseks on asjaolu, et arvuti saab – jällegi – reageerida ainult nii, nagu see oli programmeeritud. See programmeerimine ei pruugi alati olla ühiskonna huvides. Me juba näeme muret tehisintellekti erapoolikuse pärast, sest programmeerimisega tegelevad inimesed on enamasti kahekümnendates eluaastates mehed. On täiesti loomulik, et nende elukogemus mõjutab tehisintellekti otsuste tegemist.
Astuge samm edasi ja mõelge, mida keegi, kellel on tegelikud halvad kavatsused, võib programmeerida. Seejärel mõelge sellele, et neil võib olla võimalus tekitada häält, nagu see tuleks inimeselt, mitte masinalt. Arvuti ei pruugi olla võimeline füüsilises maailmas halbu asju tegema, kuid see võib veenda inimesi neid tegema.
LaMDA on uskumatu ja inimesed, kes projekteerivad süsteeme nagu see, teevad hämmastavat tööd, mis mõjutab tulevikku. Kuid see on ikkagi ainult arvuti, isegi kui see kõlab pärast ühte liiga palju 420 seanssi nagu teie sõber ja nad hakkavad rääkima elust, universumist ja kõigest.