Google делает много глупостей. В этом отношении все гигантские корпорации одинаковы. Но чтобы сделать что-то действительно ужасное, нужны особые усилия. Вот тут-то и появляется Project Nimbus от Google.
Project Nimbus — это совместная работа Google, Amazon и правительства Израиля, которая обеспечивает футуристические возможности наблюдения за счет использования передовых моделей машинного обучения. Нравится вам это или нет, но это часть будущего госбезопасности, и не более страшная, чем многие другие подобные проекты. Многие из нас даже используют подобные технологии в наших домах и вокруг них.
Где все становится темным и уродливым, так это то, что Google говорит о возможностях Project Nimbus с использованием технологии компании:
Учебные документы Nimbus подчеркивают «возможности обнаружения «лиц, лицевых ориентиров, эмоций» Google Cloud Vision API», и в одном обучении Nimbus вебинаре, инженер Google подтвердил для израильского клиента, что будет возможно «обрабатывать данные через Nimbus, чтобы определить, является ли кто-то врущий".
Да, компания, которая дала нам ужасно плохие алгоритмы YouTube, теперь хочет продавать алгоритмы, чтобы определить, лжет ли кто-то полиции. Пусть это впитается. Это наука, которая Майкрософт отказалась из-за присущих ему проблем.
К сожалению, Google настолько не согласен, что мстит людям в компании которые выступают против.
Нет веских причин предоставлять такого рода технологии какому-либо правительству любого масштаба.
Я не собираюсь слишком углубляться в политику, но весь проект был разработан для того, чтобы израильское правительство могло скрыть то, что оно делает. По словам Джека Поулсона, бывшего руководителя отдела безопасности Google Enterprise, одной из основных целей Project Nimbus является «предотвращение немецкому правительству от запроса данных, касающихся Армии обороны Израиля, для Международного уголовного суда", - говорится в сообщении. к Перехват. (Говорят, что Израиль совершает преступления против человечности против палестинцев, согласно толкованию законов некоторыми людьми.)
Однако на самом деле неважно, как вы относитесь к конфликту между Израилем и Палестиной. Нет веских причин предоставлять такого рода технологии какому-либо правительству любого масштаба. Это делает Google зло.
Предполагаемые возможности Nimbus пугают, даже если Google Cloud Vision API был на 100% правильным в 100% случаев. Представьте себе полицейские нательные камеры, которые используют искусственный интеллект, чтобы решить, предъявлять вам обвинение и арестовывать вас или нет. Все становится ужасным, если учесть, как часто Системы машинного зрения ошибаются, хотя.
Это проблема не только Google. Все, что нужно сделать, — это модерировать контент на YouTube, Facebook или Twitter. 90% первоначальной работы выполняется компьютерами с использованием алгоритмов модерации, которые слишком часто принимают неправильные решения. Однако Project Nimbus сделает больше, чем просто удалит ваш язвительный комментарий — это может стоить вам жизни.
Ни одна компания не имеет права предоставлять такого рода ИИ, пока технология не созреет до состояния, в котором она никогда не ошибается, а этого никогда не произойдет.
Слушай, я за то, чтобы найти плохих парней и что-то с ними сделать, как и большинство других. Я понимаю, что правоохранительные органы, будь то местное отделение полиции или ЦАХАЛ, — необходимое зло. Использование ИИ для этого ненужный зло.
Я не говорю, что Google должен просто писать программное обеспечение, на котором работает телефоны, которые вы любите и не пытаясь разветвляться. Я просто говорю, что есть правильный и неправильный путь — здесь Google выбрал неправильный путь, и теперь он застрял, потому что условия соглашения не позволяют Google прекратить участие.
Вы должны сформировать свое собственное мнение и никогда не слушать кого-то в Интернете, у кого есть мыльница. Но вы также должны быть хорошо информированы, когда компания, основанная на принципе «Не будь злом», совершает полный оборот и становится тем злом, о котором нас предупреждала.