Kas jums jāzina
- Uzņēmums Google ir nolicis vienu no saviem inženieriem apmaksātā atvaļinājumā pēc tam, kad uzņēmumā radās bažas par AI ētiku.
- Bleiks Lemuāns ir apgalvojis, ka Google tērzēšanas robotu sistēma LaMDA ir ieguvusi tādu uztveres līmeni, kas ir salīdzināms ar cilvēkiem.
- Google saka, ka nav pierādījumu, kas apstiprinātu Lemoine apgalvojumus.
Google inženieris, kurš strādā uzņēmuma atbildīgā AI organizācijā, ir ievietots apmaksātā atvaļinājumā pēc tam, kad viņš pauda bažas, ka LaMDA tērzēšanas robota sistēma ir kļuvusi jūtīga.
Bleiks Lemuāns ir apgalvojis, ka LaMDA (valodas modelis dialoga lietojumprogrammām) domā kā "7 gadus vecs, 8 gadus vecs bērns, kurš zina fiziku". The Washington Post. Google iepazīstināja LaMDA savā I/O pasākumā pagājušajā gadā taisīt Google palīgs vairāk sarunvalodas.
Pagājušā gada rudenī Lemoine pārbaudīja, vai mākslīgais intelekts izmanto diskriminējošu vai naida runu. Pēc sarunas ar LaMDA inženieris secināja, ka tas ir daudz vairāk nekā tērzēšanas robotu ģenerēšanas sistēma. Vēlāk viņš aprīlī izteica savas bažas Google vadītājiem, izmantojot dokumentu, kurā bija viņa sarunu ar LaMDA atšifrējums.
Lemoine teica, ka viņš ir runājis ar LaMDA par dažādām tēmām, piemēram, tiesībām, reliģiju un robotikas likumiem. AI ir raksturojis sevi kā "personu", jo tai ir "jūtas, emocijas un subjektīva pieredze". Lemoine arī teica LaMDA vēlas "piešķirt prioritāti cilvēces labklājībai" un "tikt atzīts par Google darbinieku, nevis kā īpašums."
Pilnu sarunas atšifrējumu varat izlasīt, izmantojot Lemoine's Medium amats, ko viņš publicēja pēc tam, kad Google vadītāji noraidīja viņa apgalvojumus.
Meklēšanas gigants ir noraidījis Lemoine apgalvojumus. Paziņojumā Android Central Google pārstāvis Braiens Gabriels sacīja, ka uzņēmums "nav zināms, ka kāds cits būtu veicis plašo apgalvojumus vai LaMDA antropomorfizāciju, kā to dara Bleiks," atsaucoties uz simtiem pētnieku un inženieru, kuri ir sarunājušies ar LaMDA.
"Mūsu komanda, tostarp ētiķi un tehnologi, ir izskatījusi Bleika bažas saskaņā ar mūsu mākslīgā intelekta principiem un informējusi viņu, ka pierādījumi neatbalsta viņa apgalvojumus," piebilda Gabriels.
Google pārstāvis arī minēja "stingro izpēti un testēšanu", kā arī 11 AI principu pārskatu sēriju, ko LaMDA ir gājusi cauri. Gabriels sacīja, ka šie novērtējumi ir "balstīti uz galvenajiem kvalitātes, drošības un sistēmas spēju sniegt uz faktiem balstītus paziņojumus."
"Protams, daži plašākā AI kopienā apsver iespēju ilgtermiņā būt jūtīgam vai vispārējam AI, bet nav jēgas to darīt, antropomorfizējot mūsdienu sarunvalodas modeļus, kas nav jūtīgi," viņš teica. "Šīs sistēmas atdarina apmaiņas veidus, kas atrodami miljonos teikumu, un var riffot par jebkuru fantastisku tēmu — ja jautā, kā ir būt saldējuma dinozauram, viņi var ģenerēt tekstu par kušanu un rūkšanu utt. ieslēgts."
Lemuinam pēc tam tika piešķirts apmaksāts administratīvais atvaļinājums par Google konfidencialitātes politikas pārkāpšanu, ziņo The Post. Tiek ziņots, ka viņš arī centās nolīgt advokātu, lai pārstāvētu LaMDA, un pat runāja ar Pārstāvju palātas tiesu komitejas locekļiem par Google iespējamām neētiskām darbībām.
Tomēr apturēšana, visticamāk, liks pārbaudīt Google AI.