Makale

Google'ın son yapay zeka etiği tartışması, kuralları uygulamış olsa bile kendi kibirliğinin ürünüdür

protection click fraud

Google KampüsüKaynak: Android Central

Kısa süre önce, Google'ın işe aldığı en iyi etik yapay zeka araştırmacılarından biri olarak tanınan Dr. Timnit Gebru, şirket ile yollarını ayırdı. Çok samimi bir ayrılık da değildi.

Bunların hepsi, Gebru'nun Mart 2021'de yapay zekada etik hakkında bir bilgisayar bilimleri konferansında sunmayı planladığı bir makaleden kaynaklanıyor - Android'in içinde kullandığı türden en iyi telefonlar her gün. Google, bu türden herhangi bir yazıyı veya sunumu onaylamak için 14 iş günü gerektiğini iddia ediyor Eğer bir çalışan Google için çalıştığını ilan ediyor. Bu, şirketin kendisiyle ilgili tüm verilerin doğru ve güncel olduğundan emin olma şansına sahip olması içindir. Bu kötü bir şey değil ve çoğu şirket araştırma makalelerini çevreleyen benzer politikalara sahip olacak.

VPN Fırsatları: 16 ABD doları için ömür boyu lisans, 1 ABD doları ve üzeri aylık planlar

İşlerin farklı olduğu nokta, her iki tarafın da daha sonra olanları nasıl tasvir ettiği.

Timnit GebruKaynak: Getty ImagesDr. Timnit Gebru

Gebru, araştırma makaleleri veya sunum incelemeleri hakkında gerçekten sert ve hızlı bir politika olmadığını ve Google'ın bu belirli alanda her zaman esnek olduğunu söylüyor. Makale incelendikten sonra Google, onu en iyi şekilde tasvir etmeyen bazı ayrıntılar konusunda geri itti. Şirket daha sonra olay nedeniyle onu kovdu. olayların kendi versiyonuna göre. Google'ın yanlış adımlarını takip eden bir grup eski çalışan olan Google Walkout, yayınlandı hikayenin Gebru tarafına derin bir bakış.

Her hikayenin iki tarafı vardır. Her ikisi de Google'ın kötü görünmesine neden oluyor.

Google'ın AI bölümünün başkanı Jeff Dean, taslak hazırlamakla görevlendirildi Hikayenin Google tarafıGebru'nun gitmesine izin veren kişi o olmasa da. Dean'e göre, Gebru'ya sunumun düzeltilmesi ve Google'ın değişiklik planlarının dahil edilmesi gerektiği söylendiğinde AI programı, işe dönmeden önce şirkete karşılanması gereken taleplerin bir listesini sundu. Google bu talepleri karşılayamadı ve Gebru'nun istifası kabul edildi.

Her iki taraf da kamuoyuna yorum yapmayı reddetti bu çevrimiçi gönderileri geçti, ancak Google CEO'su Sundar Pichai dahili bir not tüm şirkete, şirketin kendini nasıl idare ettiği için özür diliyor. Pichai'nin notundan:

İlk olarak - Dr. Gebru'nun ayrılmasına neden olan koşulları değerlendirmemiz, nerede iyileştirebileceğimizi ve daha saygılı bir süreci yönetebileceğimizi incelememiz gerekiyor. Gerilimi azaltma stratejilerinden uygulamaya koyabileceğimiz yeni süreçlere kadar her şeyi göz önünde bulundurarak öğrenebileceğimiz tüm noktaları belirlemek için olanları gözden geçirmeye başlayacağız. Jeff ve ben konuştuk ve bunu yapmaya tamamen kararlıyız. Google'ın mühendislik kültürünün en iyi yönlerinden biri, işlerin nerede ters gittiğini ve nasıl iyileştirebileceğimizi anlama konusundaki samimi arzumuzdur.

İkincisi, muazzam yeteneklere sahip, önde gelen Siyah bir kadın liderin Google'ı mutsuz bir şekilde terk etmesi gerçeğinin sorumluluğunu kabul etmemiz gerekiyor. Bu kayıp, kendilerini ve bazı deneyimlerini Dr. Gebru'lara yansıyan en az temsil edilen topluluklarımız arasında dalgalanma etkisi yarattı. Dr.Gebru, yapay zeka etiği alanında yapmamız gereken önemli bir alanda uzman olduğu için de şiddetle hissedildi. ilerleme kaydetmeye devam edin - ilerleme, kendimize sorma yeteneğimize bağlıdır. sorular.

Jeff DeanKaynak: Kablolu Google'ın AI bölüm başkanı Jeff Dean

Sürece dahil olmadığınız sürece tam olarak ne olduğunu bilmek imkansız çünkü her iki taraf da Bu tartışma, her ne kadar iki anlatım da oldukça anlamlı olsa da, kendi başlarına anlamlı olan olaylar dizisi sunuyor. farklı. Pichai, ne olduğunu bulmanın en önemli öncelik olduğunu söylüyor, böylece sorunları düzeltebiliyor ve bunu görmek harika - CEO bu sefer doğru şeyi yapıyor ve ona şans diliyoruz. Ama gerçekten, Google'ın kendi etik uygulamalarının daha büyük sorunları söz konusu olduğunda bu çok az fark yaratır: bu oldu ve olmamalıydı.

Dr. Gebru'nun talep listesi, Google'ın nasıl daha iyi olabileceğinin bir listesi gibi görünüyor.

Google, talepler listesini istifa mektubu olarak değerlendirme hakkına sahiptir. Ama bir dakikalığına bu taleplere bir göz atalım. Gebru'nun koşulları şunlardı: 1) kağıdının geri çekilmesini aktif olarak kimin istediğini bulmak, 2) bir dizi Google'ın Etik Yapay Zeka ekibiyle sorunlar hakkında toplantılar ve 3) Google'ın tam olarak neyi kabul edilebilir bulduğunu öğrenmek Araştırma. Şirketiniz rahatsız ederse Sahip olmak Etik bir AI bölümü, bu "taleplerin" kendisine dahil olan herkes için yararlı olduğu görülüyor.

Dean ayrıca Gebru'nun makalesinin Google'ın yapay zekaya yaklaşımını nasıl değiştirmeyi planladığına dair ayrıntıları atladığına ve bu ayrıntıların dahil edilmesini istemenin adil olduğunu düşündüğüne de dikkat çekiyor. Bunun nedeni, Google'ın, büyük dil modelleri olarak bilinenlerin etik değerlendirmeleri söz konusu olduğunda pek de harika görünmediğini bilmesidir. En karmaşık modellerden biri için mükemmel bir ilerleme eğitimi sağladı, ancak gelişmesine yardımcı olmadı.

Google Duplex'i gösteren Galaxy S10Kaynak: Android Central

Büyük dil modelleri saçma derecede büyük miktarda metin kullanılarak eğitilir. Bu metin internetten toplanır ve müşterilerle etkileşim için tasarlanmış bir modelde yeri olmayan ırkçı, cinsiyetçi ve diğer her türlü saldırgan ve küfürlü dil ile doldurulabilir. Sorun, dilin gelişmesi ve herhangi bir yapay zeka dil modelinin zamana ayak uydurmak için sürekli olarak yeniden eğitilmesi gerekmesidir.

Burası Google'ın gayretli olmadığı ve geniş dil modellerinin bazılarını dahil etmek için daha fazla eğitime ihtiyaç duyduğu yerdir. diğer şeyleri görmezden gelin ve geleneksel olarak çok az erişimi olan insan gruplarını daha iyi temsil edin. internet. Kısacası, Google'ın yapay zekası, çoğunlukla aynı görünen ve davranan kişiler tarafından yazılan metinler kullanılarak eğitildi. Etik yapay zekanın ne olduğunun büyük bir kısmı bu - herkesin eşit şekilde temsil edildiğinden ve modellerin değişen zamanlarla geliştiğinden emin olmak.

MIT Technology Review, "AI tarafından üretilen dil, en zengin ülkelerin ve toplulukların uygulamalarını yansıtacak şekilde homojenleştirilecek" şeklinde uyarıyor.

Elbette, Google, çevrimiçi arama gibi şeyleri daha etik hale getiren yapay zekayı yapmak için önerilen değişiklikler hakkında parlak sözler kullanmayı tercih eder. Ancak, gelecek hakkında konuşmak yerine şimdi ve burada odaklanan bir kağıt yüzünden, en iyilerden birinin şirketten çıkmasına izin vermeye istekliydi. Görünüşe göre şirket etiğinin de biraz ayarlanması gerekiyor. Ancak Google'ın neden görünüş konusunda bu kadar endişelendiğini anlamak da kolay - yapay zeka etrafında bir temel oluşturan diğer şirketlerden çok daha fazla inceleme altında.

Android Mesajları Akıllı YanıtlarKaynak: Google

Yapay zeka kullanan teknoloji şirketlerini düşündüğünüzde ve Müşterilere nasıl davranıldığına gelince yıldızlardan daha az bir geçmişe sahipseniz, muhtemelen aklınızda üç isim vardır: Amazon, Facebook ve Google. Bu şirketler karşınızda çünkü her biri her gün dokunduğumuz ve etkileşimde bulunduğumuz tüketici hizmetleri sağlıyor. Bu onlar anlamına gelir meli özellikle yapay zeka gibi yeni teknolojiler söz konusu olduğunda çok yoğun incelemeye tabi olun.

Ancak Microsoft, NVIDIA ve IBM gibi diğer teknoloji şirketlerinin de (çok daha fazlası var) yapay zeka ile derinden ilgilendiğini, ancak çok daha az inceleme altında olduğunu da biliyor olabilirsiniz. Microsoft, yalnızca birkaç yıl önce bir AI modelinin eğitim almasına izin verdi. antisemitik fikirler. Bu tamamen kabul edilemez, ancak Microsoft'a Google'ın sahip olduğu aynı inceleme düzeyini kazandırmadı.

Yapmalıyız istemek tüm teknoloji şirketlerini yoğun inceleme altında görmek için.

Google’a burada adaletsiz davranıldığını söylemiyorum. Bunu söylüyorum herşey Hayatımızı herhangi bir şekilde etkileyen yapay zeka modelleri geliştiren şirketler, yaptığı her şey için mikroskop altında olmalıdır. Google'ın AI bölümünü önemsiyorsunuz çünkü aramalarınızı güçlendirir ve senin gelen kutusu. Facebook, gerçek olmayan gönderileri güçlendiren AI modellerinde gerçekten kötü bir geçmişe sahip. Amazon, rekabetinin ne yaptığını ve işlerini nasıl azaltabileceğini takip etmek için AI kullanıyor.

IBM Watson AIKaynak: IBM

Bunları görüyoruz, ancak IBM'in finansal hizmetler, sağlık hizmetleri veya müşteri destek uygulamaları için yapay zekayı nasıl kullandığını görmüyoruz. Elbette tıbbi bakımınız ve banka hesabınız, Facebook zaman çizelgeniz veya Gmail gelen kutunuz kadar önemlidir.

Bunlar bir kenara itilmemesi gereken gerçek konulardır. Aslında, yapay zekada işin nasıl yapıldığını denetleyen Dr.Gebru gibi daha fazla kişiye ihtiyacımız var. bizim akılda en iyi çıkarlar. Ancak burada ve şimdi, kesinlikle Google bir kez daha şirket çizgisine ayak uydurmayan bir çalışanın idaresi konusunda tartışmalarla karşı karşıya gibi görünüyor ve bu şirket için gerçekten kötü bir görünüm.

2020'yi hangi Android telefonun yönettiğini düşünüyorsunuz?
En iyinin en iyisi

2020'yi hangi Android telefonun yönettiğini düşünüyorsunuz?

Galaxy Z Fold 2'den OnePlus 8T'ye kadar, 2020'de bir ton mükemmel Android telefon piyasaya sürüldü. Ortaya çıkan her şeyden genel olarak en iyisi olarak öne çıkan nedir?

2020'yle ilgili her şey berbat değil - ucuz telefonlar yeniden güzelleşti
umut ışığı

2020 ile ilgili her şey berbat değildi - ucuz telefonlar yeniden güzelleşti.

Çalkantılı piyasa güçleri, malzeme ve yonga değişiklikleri ve küresel bir salgın gibi faktörlerin bir araya gelmesi nedeniyle, 2020 aslında kaliteli ve uygun fiyatlı akıllı telefonlar için bir afiş yılı oldu. Umarım, bu korkunç yıla toz çöktüğünde, bu elimizde kalan iyi bir şey olur.

Zepp Z incelemesi: İki yazılım kusuruyla engellenen mükemmel bir saat
Güçlü ve akıllı

Zepp Z incelemesi: İki yazılım kusuruyla engellenen mükemmel bir saat.

Piyasada çok sayıda akıllı saat var ve yeni Zepp Z, sağlam bir refah özellikleri paketi ile birinci sınıf malzemeler açısından geliyor. Kendi yazılım çeşidini çalıştıran bu saat, şarjlar arasında 15 ila 30 günlük pil ömrüne sahiptir, ancak bu yazılım, iki önemli akıllı saat özelliği için soğukta bırakılmıştır.

Bunlar, 2020'de satın alabileceğiniz en iyi OnePlus telefonları
Hangisine asla razı olmayacak

Bunlar, 2020'de satın alabileceğiniz en iyi OnePlus telefonları.

Team OnePlus'a katılmayı düşünüyorsunuz, ancak şirketin cihazlarından hangisinin sizin için doğru olduğundan emin değil misiniz? Mükemmel OnePlus telefonunu bulmanıza yardımcı olalım!

instagram story viewer