Google прави много глупави неща. Всички гигантски корпорации са еднакви в това отношение. Но са необходими специални усилия, за да се направи нещо наистина ужасно. Това е мястото, където проектът Nimbus на Google идва в спектъра.
Проектът Nimbus е съвместно усилие на Google, Amazon и израелското правителство, което предоставя футуристични възможности за наблюдение чрез използването на усъвършенствани модели за машинно обучение. Харесва ви или не, това е част от бъдещето на държавната сигурност и не е по-страшно от много други подобни проекти. Много от нас дори използват подобни технологии в и около домовете ни.
Там, където нещата стават тъмни и грозни, е това, което Google казва за възможностите на Project Nimbus, използвайки технологията на компанията:
Документите за обучение на Nimbus подчертават „възможностите за откриване на „лица, лицеви ориентири, емоции“ на API на Google Cloud Vision“ и в едно обучение на Nimbus уебинар, инженер на Google потвърди за израелски клиент, че би било възможно „да се обработват данни чрез Nimbus, за да се определи дали някой е лъжа”.
Да, компанията, която ни даде страхотно лошите алгоритми на YouTube, сега иска да продава алгоритми, за да определи дали някой лъже полицията. Оставете това да потъне. Това е наука, която Microsoft се отказа поради присъщите му проблеми.
За съжаление Google не е съгласен толкова много, че отмъщава на хората в компанията които говорят против него.
Няма основателна причина да се предоставя този вид технология на правителство от какъвто и да е мащаб.
Няма да навлизам твърде дълбоко в политиката, която се играе тук, но целият проект е проектиран така, че израелското правителство да може да скрие какво прави. Според Джак Поулсън, бивш ръководител на отдела за сигурност на Google Enterprise, една от основните цели на Project Nimbus е „предотвратяване германското правителство да не изисква данни, свързани с израелските отбранителни сили за Международния наказателен съд". да се Прехващането. (Твърди се, че Израел извършва престъпления срещу човечеството срещу палестинци, според тълкуването на законите от някои хора.)
Наистина обаче няма значение какво мислите за конфликта между Израел и Палестина. Няма основателна причина да се предоставя този вид технология на правителство от какъвто и да е мащаб. Това прави Google зло.
Предполагаемите възможности на Nimbus са плашещи, дори ако API на Google Cloud Vision беше 100% правилен, 100% от времето. Представете си полицейски телесни камери, които използват изкуствен интелект, за да ви помогнат да решите дали да ви обвинят и арестуват. Всичко става ужасяващо, когато се замислите колко често системите за машинно обучение правят нещата погрешни, обаче.
Това не е проблем само на Google. Всичко, което трябва да направите, е да потърсите модериране на съдържание в YouTube, Facebook или Twitter. 90% от първоначалната работа се извършва от компютри, използващи модериращи алгоритми, които вземат грешни решения твърде често. Проектът Nimbus обаче би направил нещо повече от това просто да изтрие злобния ви коментар — това може да ви коства живота.
Никоя компания не предлага такъв вид ИИ, докато технологията не е узряла до състояние, в което никога не греши, и това никога няма да се случи.
Виж, аз съм изцяло за намирането на лошите и за правенето на нещо за тях, както повечето други. Разбирам, че органите на реда, независимо дали местното полицейско управление или IDF, са необходимо зло. Използването на AI за това е ненужни зло.
Не казвам, че Google трябва просто да се придържа към писането на софтуера, който захранва телефони, които обичате и не се опитва да се разклони. Просто казвам, че има правилен начин и грешен начин – Google избра грешния път тук и сега е заседнал, защото условията на споразумението не позволяват на Google да спре да участва.
Трябва да си създадете собствено мнение и никога да не слушате някой в интернет, който има кутия за сапун. Но също така трябва да сте добре информирани, когато компания, която е основана на принципа "Не бъди зла", завърти пълен кръг и се превърне в злото, за което ни предупреди.