Ne bilmek istiyorsun
- Google, şirket içinde AI etiğiyle ilgili endişeleri dile getirdikten sonra mühendislerinden birini ücretli izne çıkardı.
- Blake Lemoine, Google'ın LaMDA chatbot sisteminin insanlarla kıyaslanabilir bir algı düzeyi kazandığını iddia etti.
- Google, Lemoine'in iddialarını destekleyecek hiçbir kanıt olmadığını söylüyor.
Şirketin Sorumlu Yapay Zeka organizasyonunda çalışan bir Google mühendisi, LaMDA sohbet robotu sisteminin duyarlı hale geldiğine dair endişelerini dile getirmesinin ardından ücretli izne ayrıldı.
Blake Lemoine, LaMDA'nın (Diyalog Uygulamaları için Dil Modeli) "fiziği bilen 7 yaşında, 8 yaşında bir çocuk" gibi düşündüğünü iddia etti. Washington post. Google LaMDA'yı geçen yıl I/O etkinliğinde tanıttı yapmak Google Asistan daha konuşkan.
Geçen sonbaharda Lemoine, yapay zekanın ayrımcı veya nefret söylemi kullanıp kullanmadığını test ediyordu. Mühendis, LaMDA ile yaptığı konuşmanın ardından, bunun sohbet robotları oluşturmak için bir sistemden çok daha fazlası olduğu sonucuna vardı. Daha sonra Nisan ayında LaMDA ile yaptığı konuşmaların dökümünü içeren bir belge aracılığıyla endişelerini Google yöneticilerine iletti.
Lemoine, LaMDA ile haklar, din ve robotik yasaları gibi çeşitli konular hakkında görüştüğünü söyledi. Yapay zeka, "duyguları, duyguları ve öznel deneyimi" olduğu için kendisini bir "kişi" olarak tanımlamıştır. Lemoine de dedi LaMDA, "insanlığın refahına öncelik vermek" ve "bir Google çalışanı olarak değil, bir Google çalışanı olarak kabul edilmek" istiyor. mülk."
Söyleşinin tamamını şuradan okuyabilirsiniz: Lemoine's Medium gönderisi, Google yöneticilerinin iddialarını reddetmesinin ardından yayınladığı.
Arama devi, Lemoine'in iddialarını yalanladı. Google sözcüsü Brian Gabriel, Android Central'a yaptığı açıklamada, şirketin "geniş kapsamlı iddialar veya LaMDA'yı antropomorfize etme, Blake'in sahip olduğu gibi", yüzlerce araştırmacı ve mühendise atıfta bulunarak LaMDA.
Gabriel, "Etik uzmanları ve teknoloji uzmanları da dahil olmak üzere ekibimiz, AI İlkelerimiz uyarınca Blake'in endişelerini inceledi ve kendisine kanıtların iddialarını desteklemediğini bildirdi."
Google sözcüsü ayrıca LaMDA'nın geçtiği 11 yapay zeka ilkesi incelemesinden oluşan serinin yanı sıra "titiz araştırma ve testlerin" lansmanını yaptı. Gabriel, bu değerlendirmelerin "kalite, güvenlik ve sistemin gerçeklere dayalı beyanlar üretme becerisine ilişkin temel ölçütlere dayandığını" söyledi.
"Elbette, daha geniş AI topluluğundaki bazıları, uzun vadeli duyarlı veya genel AI olasılığını düşünüyor, ancak bunu, günümüzün duyarlı olmayan konuşma modellerini antropomorfize ederek yapmak mantıklı değil" dedi. söz konusu. "Bu sistemler, milyonlarca cümlede bulunan değiş tokuş türlerini taklit eder ve herhangi bir fantastik konuyu ele alabilir. - bir dondurma dinozoru olmanın nasıl bir şey olduğunu sorarsanız, erime ve kükreme hakkında metin üretebilirler. Açık."
The Post'a göre, Lemoine daha sonra Google'ın gizlilik politikasını ihlal ettiği için ücretli idari izne ayrıldı. Ayrıca LaMDA'yı temsil etmesi için bir avukat tutmaya çalıştığı ve hatta Google'ın iddia edilen etik dışı faaliyetleri hakkında Meclis yargı komitesi üyeleriyle konuştuğu bildirildi.
Bununla birlikte, askıya alma muhtemelen Google'ın yapay zekasını incelemeye davet edecektir.