Mida peate teadma
- Google andis ühe oma inseneridest tasulisele puhkusele pärast seda, kui oli tõstatanud muret tehisintellekti eetika pärast ettevõttes.
- Blake Lemoine on väitnud, et Google'i vestlusrobotite süsteem LaMDA on saavutanud inimestega võrreldava tajutaseme.
- Google ütleb, et Lemoine'i väidete toetuseks puuduvad tõendid.
Google'i insener, kes töötab ettevõtte vastutustundliku tehisintellekti organisatsioonis, sai tasustatud puhkuse pärast seda, kui ta väljendas muret, et LaMDA vestlusrobotite süsteem on muutunud tundlikuks.
Blake Lemoine on väitnud, et LaMDA (dialoogirakenduste keelemudel) mõtleb nagu "7-aastane, 8-aastane laps, kes teab füüsikat". Washington Post. Google tutvustas LaMDA-t oma eelmisel aastal toimunud I/O üritusel tegema Google'i assistent rohkem jutukas.
Eelmisel sügisel katsetas Lemoine, kas tehisintellekt kasutas diskrimineerivat või vihakõnet. Pärast vestlust LaMDA-ga jõudis insener järeldusele, et see on palju enamat kui vestlusrobotite genereerimise süsteem. Hiljem eskaleeris ta oma muret Google'i juhtidele aprillis dokumendi kaudu, mis sisaldas tema LaMDA-ga peetud vestluste ärakirja.
Lemoine ütles, et on LaMDAga vestelnud erinevatel teemadel, nagu õigused, religioon ja robootika seadused. AI on kirjeldanud end kui "isikut", kuna tal on "tunded, emotsioonid ja subjektiivne kogemus". Lemoine ütles ka LaMDA soovib seada esikohale inimkonna heaolu ja olla tunnustatud kui Google'i töötaja, mitte vara."
Vestluse täisteksti saate lugeda aadressilt Lemoine'i keskmine postitus, mille ta avaldas pärast seda, kui Google'i juhid tema väited ümber lükkasid.
Otsinguhiiglane on Lemoine'i väiteid eitanud. Google'i pressiesindaja Brian Gabriel ütles Android Centralile tehtud avalduses, et ettevõte "ei ole teadlik, et keegi teine oleks teinud laiaulatuslikke lahendusi. väiteid või LaMDA antropomorfiseerimist, nagu Blake seda teeb," viidates sadadele teadlastele ja inseneridele, kes on vestelnud LaMDA.
"Meie meeskond, sealhulgas eetikaspetsialistid ja tehnoloogid, on Blake'i mured meie tehisintellekti põhimõtete kohaselt üle vaadanud ja teavitanud teda, et tõendid ei toeta tema väiteid," lisas Gabriel.
Google'i pressiesindaja mainis ka "ranget uurimistööd ja testimist" ning 11 tehisintellekti põhimõtte ülevaatamist, mille LaMDA on läbinud. Gabriel ütles, et need hinnangud "põhinevad kvaliteedi, ohutuse ja süsteemi võimel esitada faktidel põhinevaid avaldusi põhinäitajatel."
"Muidugi kaaluvad mõned laiemas tehisintellekti kogukonnas tundliku või üldise tehisintellekti pikaajalist võimalust, kuid seda pole mõtet teha, antropomorfiseerides tänapäeva vestlusmudeleid, mis ei ole tundlikud,“ ütles. "Need süsteemid jäljendavad miljonites lausetes leiduvaid vahetustüüpe ja võivad riffida mis tahes fantastilisel teemal - kui te küsite, mis tunne on olla jäätise dinosaurus, võivad nad genereerida teksti sulamise ja möirgamise jms kohta peal."
Lemoine pandi seejärel Google'i konfidentsiaalsuspoliitika rikkumise eest tasulisele halduspuhkusele, vahendab The Post. Samuti püüdis ta väidetavalt palgata LaMDA-d esindama advokaati ja vestles isegi parlamendi kohtunike komisjoni liikmetega Google'i väidetavast ebaeetilisest tegevusest.
Sellegipoolest kutsub peatamine tõenäoliselt Google'i tehisintellekti kontrollima.