Ką tu turi žinoti
- „Google“ išleido vieną iš savo inžinierių apmokamų atostogų po to, kai įmonėje išreiškė susirūpinimą dėl AI etikos.
- Blake'as Lemoine'as teigė, kad „Google“ LaMDA pokalbių roboto sistema įgavo tokį suvokimo lygį, kaip ir žmonės.
- „Google“ teigia, kad nėra jokių įrodymų, patvirtinančių Lemoine'o teiginius.
„Google“ inžinierius, dirbantis bendrovės atsakingo dirbtinio intelekto organizacijoje, buvo išleistas apmokamų atostogų po to, kai išreiškė susirūpinimą, kad LaMDA pokalbių roboto sistema tapo jautri.
Blake'as Lemoine'as teigė, kad LaMDA (kalbų modelis dialogo programoms) mąsto kaip „7 metų, 8 metų vaikas, kuris išmano fiziką“. „The Washington Post“.. Google pristatė LaMDA savo I/O renginyje praėjusiais metais gaminti „Google“ padėjėjas labiau bendraujantis.
Praėjusį rudenį Lemoine'as išbandė, ar dirbtinis intelektas naudoja diskriminacinę ar neapykantą kurstančią kalbą. Po pokalbio su LaMDA inžinierius padarė išvadą, kad tai kur kas daugiau nei pokalbių robotų generavimo sistema. Vėliau jis iškėlė savo susirūpinimą „Google“ vadovams balandį, pateikdamas dokumentą, kuriame yra jo pokalbių su LaMDA stenograma.
Lemoine'as sakė, kad jis kalbėjosi su LaMDA įvairiomis temomis, tokiomis kaip teisės, religija ir robotikos dėsniai. AI apibūdino save kaip „asmenį“, nes turi „jausmų, emocijų ir subjektyvios patirties“. Lemoine taip pat pasakė LaMDA nori „suteikti pirmenybę žmonijos gerovei“ ir „būti pripažinta „Google“ darbuotoja, o ne kaip nuosavybė."
Visą pokalbio stenogramą galite perskaityti per Lemoine's Medium įrašas, kurį jis paskelbė „Google“ vadovams atmetus jo teiginius.
Paieškos milžinas paneigė Lemoine'o teiginius. Pareiškime „Android Central“ „Google“ atstovas Brianas Gabrielis teigė, kad bendrovė „nežino, kad kas nors kitas rengtų plataus masto teiginius arba antropomorfizuoja LaMDA, kaip tai daro Blake'as“, – turėdamas omenyje šimtus tyrėjų ir inžinierių, kurie bendravo su LaMDA.
„Mūsų komanda, įskaitant etikus ir technologus, peržiūrėjo Blake'o susirūpinimą pagal mūsų AI principus ir informavo jį, kad įrodymai nepatvirtina jo teiginių“, – pridūrė Gabrielius.
„Google“ atstovas taip pat paminėjo „griežtus tyrimus ir bandymus“, taip pat 11 AI principų apžvalgų, kurias atliko LaMDA. Gabrielius sakė, kad šie vertinimai yra „pagrįsti pagrindiniais kokybės, saugos ir sistemos gebėjimo pateikti faktais pagrįstus teiginius rodikliais“.
„Žinoma, kai kurie iš platesnės AI bendruomenės svarsto apie ilgalaikę jausmingo ar bendrojo AI galimybę, bet nėra prasmės to daryti antropomorfizuojant šiandieninius pokalbio modelius, kurie nėra jausmingi“, – sakė jis. sakė. „Šios sistemos imituoja mainų tipus, esančius milijonuose sakinių, ir gali skambėti bet kokia fantastiška tema. - jei paklausite, ką reiškia būti ledų dinozauru, jie gali sukurti tekstą apie tirpimą ir riaumojimą ir pan. įjungta“.
Vėliau Lemoine'as buvo išleistas apmokamų administracinių atostogų dėl „Google“ konfidencialumo politikos pažeidimo, praneša „The Post“. Pranešama, kad jis taip pat siekė pasamdyti advokatą, kuris atstovautų LaMDA, ir net kalbėjosi su Atstovų Rūmų teismų komiteto nariais apie tariamą neetišką „Google“ veiklą.
Vis dėlto tikėtina, kad sustabdymas paskatins „Google“ AI tyrimą.