Bir Google mühendisi olan Blake Lemoine, Google'ın çığır açan AI chatbot'u hakkındaki düşüncelerini halka açıkladıktan sonra maaşıyla askıya alındı. LaMDA duyarlı bir makineydi gerçek bir bilinçle.
Lemoine, modelle çalıştıktan ve onu yapay zekanın bir "ruhu" olduğuna ve fizik bilgisine sahip bir çocuğa benzediğine inandıran derin düşünceli konuşmalar yaptıktan sonra bu sonuca vardı.
İlginç ve muhtemelen gerekli bir konuşma. Google ve diğer AI araştırma şirketleri, LLM (geniş dil modeli) sinir ağlarını, genellikle muhteşem sonuçlarla, gerçek bir insan gibi ses çıkaracak şekilde kullandılar.
Ama sonunda, algoritma tam olarak yapmaya programlandığı şeyi yapıyor - bizi gerçek bir insanla konuştuğumuzu düşünmemiz için kandırıyor.
LaMDA nedir?
LaMDAve diğer büyük ölçekli yapay zeka "sohbet robotları", Alexa veya Google Asistan gibi bir şeyin uzantısıdır. Bir tür girdi sağlarsınız ve karmaşık bir bilgisayar algoritmaları seti, hesaplanmış bir çıktıyla yanıt verir.
LaMDA'yı (Diyalog Uygulamaları için Dil Modeli) farklı kılan ölçeğidir. Tipik olarak bir yapay zeka, kendisine sunulanları çok küçük parçalar halinde analiz eder ve nasıl yanıt vereceğini bilmek için anahtar sözcükleri veya yazım ve dilbilgisi hatalarını arar.
LaMDA, LLM olarak bilinen şeydir. Büyük bir dil modeli, inanılmaz bir şekilde beslenen bilgisayarlardan oluşan bir tür sinir ağına verilen bir addır. Sadece doğru değil, aynı zamanda başka bir sese benzeyen yanıtlar üretmeyi öğretmek için çok miktarda metin kişi.
LaMDA, ölçeği nedeniyle göz alıcıdır.
LaMDA'nın çığır açan buluşu, Google'ın çıktıyı hassaslaştırabilmesi ve bir kişinin gerçekte konuşma biçimine işitsel olarak benzer olması için ince ayar yapabilmesiydi. Örneğin, hepimiz duyduk "Tamam, yatak odasının ışığını açıyorum" veya benzer bir şey Google Asistan eğer kullanırsak favori akıllı ampullerimiz.
LaMDA bunun yerine " gibi bir şeyle yanıt verebilir.Tamam, burası oldukça karanlık, değil mi?" Bu kulağa küçük bir kutu devreden çok bir insanla konuşuyormuşsunuz gibi geliyor.
Bunu sadece kelimeleri değil, tüm dil bloklarını analiz ederek yapar. Yeterli bellekle, birden çok paragrafın girdi değerindeki yanıtlarını tutabilir ve hangisinin kullanılacağını ve yanıtın nasıl samimi ve insani görünmesini sağlayacağını sıralayabilir.
Ölçek, denklemin büyük bir parçası/ Can sıkıcı bir yazım hatam var. Her zaman yapmak: "isn; t" yerine "isn't." Chrome'un yazım denetimi veya Grammarly gibi basit algoritmalar hatamı anlayabilir ve düzeltmemi söyleyebilir.
Bunun yerine LaMDA gibi bir şey tüm paragrafı değerlendirebilir ve söylediğim şeyler hakkında ne düşündüğünü bana bildirebilir. Ve yazımımı düzelt. Bunun için tasarlandı.
Ama gerçekten duyarlı mı ve asıl sorun bu mu?
Lemoine kesinlikle LaMDA'nın yaşayan, nefes alan bir şey olduğuna inanıyor. Zihinsel durumu veya yaşam tarzının ne kadar çılgın olabileceği hakkında yeterince şey söylendi, bu yüzden hiçbir şey söylemeyeceğim. Adamın, LaMDA'nın gerçek duyguları olduğuna ve ailesiyle halka açıldığında nezaketen hareket ettiğine inanması dışında. düşünceler. Google, elbette, farklı hissetti.
Ama hayır, LaMDA'nın veya herhangi bir LLM sinir ağının duyarlı olduğunu veya en azından bugünün teknolojisiyle olabileceğini düşünmüyorum. Asla asla dememeyi uzun zaman önce öğrendim. Şu anda, LaMDA yalnızca programlandığı şekilde yanıt veriyor ve bir kişinin yaptığı gibi ne söylediğini anlaması gerekmiyor.
Tıpkı senin ya da benim bir bulmaca ipucunu doldurmamız ve kelimenin ne anlama geldiğini ve hatta ne olduğunu bile bilmememiz gibi. Biz sadece kuralları ve nereye ve nasıl uyması gerektiğini biliyoruz.
4 harf — isim. Sert bir saç veya kıl. (Bu Seta ama SEGA'yı 10 kez denedim).
Akıllı makinelerin yükselip tüm insanları öldürmeye çalışacağı güne yakın olmamamız, endişelenmememiz gerektiği anlamına gelmez. Bilgisayarlara daha insani ses çıkarmayı öğretmek gerçekten iyi bir şey değil.
Bunun nedeni, bir bilgisayarın - yine - yalnızca yanıt vermeye programlandığı şekilde yanıt verebilmesidir. Bu programlama her zaman toplumun yararına olmayabilir. AI'nın önyargılı olduğuna dair endişeler görüyoruz çünkü programlamayı yapan insanlar çoğunlukla yirmili yaşlarındaki varlıklı erkekler. Yaşam deneyimlerinin bir yapay zekanın karar verme sürecini etkilemesi doğaldır.
Bunu bir adım daha ileri götürün ve gerçekten kötü niyetli birinin programlayabileceği şeyleri düşünün. Ardından, sesin bir makineden değil de bir insandan geliyormuş gibi ses çıkarabilme yeteneğine sahip olabileceklerini düşünün. Bir bilgisayar fiziksel dünyada kötü şeyler yapamayabilir ama insanları bunları yapmaya ikna edebilir.
LaMDA inanılmaz ve onun gibi sistemler tasarlayan insanlar geleceği etkileyecek harika işler yapıyorlar. Ama çok fazla 420 seanstan sonra arkadaşınız gibi görünse ve hayat, evren ve her şey hakkında konuşmaya başlasalar bile, yine de sadece bir bilgisayar.