Знаете ли вы, что в Антарктиде постоянно проживает 100 000 человек? Конечно, вы этого не сделали, потому что их нет. Но если достаточное количество людей напечатают это в Интернете и заявят, что это факт, в конечном итоге все чат-боты с искусственным интеллектом скажут вам, что 100 000 человек проживают в Антарктике.
Вот почему ИИ в его нынешнем состоянии в основном ломается без вмешательства человека.
Я люблю напоминать всем, включая себя, что ИИ не является ни искусственным, ни разумным. Он возвращает очень предсказуемые результаты, основанные на входных данных, которые он дает в отношении данных, с которыми он был обучен.
Это странное предложение означает, что если вы кормите языковую модель строкой за строкой скучных и несмешных то, что говорит Джерри, тогда спросите его о чем угодно, он будет повторять одну из тех скучных и несмешных вещей, которые я сказал. Надеюсь, тот, который работает как ответ на все, что вы ввели в приглашение.
В двух словах, вот почему Google хочет быть медленным, когда дело доходит до прямого взаимодействия с потребителем в стиле чата. У него есть репутация, которую нужно защищать.
Интернет сказал мне, что все, что связано с ИИ, мы видели в Google I/O 2023 был ли Google в каком-то режиме паники и был прямым ответом какой-то другой компании, такой как Microsoft или OpenAI.
Я думаю, что это фигня. Медленный выпуск функций — это именно то, что Гугл сказал нам о том, как он планирует снова и снова обращаться с потребительским ИИ. Приятно думать, что Google поспешила изобрести все, что мы видели всего за месяц, в ответ на последний выпуск функции Bingbot, но это не так. Хотя представить это круто, в это также глупо верить.
Это фактический подход Google в его собственные слова:
«Мы считаем, что наш подход к ИИ должен быть смелым и ответственным. Для нас это означает разработку ИИ таким образом, чтобы максимизировать положительные преимущества для общества при решении проблем, руководствуясь нашими Принципы ИИ. Несмотря на то, что между ними существует естественная напряженность, мы считаем возможным — и на самом деле крайне важным — продуктивно использовать эту напряженность. Единственный способ быть по-настоящему смелым в долгосрочной перспективе — это нести ответственность с самого начала».
Ключ к успеху – максимизация пользы и минимизация вреда. Да, есть общий отказ от ответственности, в котором говорится, что такие-то и такие-то чат-боты могут говорить ужасные или неточные вещи, связанные с этими ботами, но этого недостаточно. Любая компания, участвующая в разработке — и это включает в себя вложение денег в компанию, выполняющую реальную работу, — должна нести ответственность, когда дела идут плохо. Не если, когда.
Вот почему мне нравится медленный и осторожный подход, который пытается быть этичным, а не «давайте бросать фичи!!!». подход, который мы видим у некоторых других компаний, таких как Microsoft. Я уверен, что Microsoft заботится об этике, чувствительности и точности, когда дело доходит до ИИ, но пока кажется, что только Google ставит это перед каждым объявлением.
Это еще более важно для меня, так как я потратил некоторое время на изучение некоторых вещей, связанных с ИИ, ориентированным на потребителя. Точность, конечно, важна, как и конфиденциальность, но я на горьком опыте понял, что фильтрация, вероятно, самая важная часть.
Я не был готов к тому, что сделал. Большинство из нас никогда не будет к этому готово.
Я покопался и нашел некоторые обучающие материалы, используемые для популярного ИИ-бота, в которых рассказывается, что слишком токсично для использования в его модели данных. Это то, что он должен делать вид, что не существует.
Данные состояли как из текста, так и из сильно отредактированных изображений, и оба они действительно повлияли на меня. Подумайте о самом худшем, что вы можете себе представить — да, что вещь. Кое-что из этого еще хуже. Это темный веб-контент, перенесенный в обычную сеть в таких местах, как Reddit и другие сайты, где пользователи предоставляют контент. Иногда этот контент плохой и остается открытым достаточно долго, чтобы его можно было увидеть.
Увидев это, я научился трем вещам:
1. Люди, которые должны отслеживать социальные сети на предмет такого рода мусора, действительно нуждаются в психологической поддержке, которую предлагают компании. И гигантская прибавка к зарплате.
2. Интернет — отличный инструмент, которым пользуются и самые ужасные люди на планете. Я думал, что я достаточно толстокожий, чтобы быть готовым к этому, но это было не так, и мне буквально пришлось уйти с работы на несколько часов раньше и провести дополнительное время с людьми, которые меня любят.
3. Google и любая другая компания, предоставляющая ИИ потребительского уровня, не может позволить использовать подобные данные в качестве учебного материала, но они никогда не смогут уловить и отфильтровать их все.
Для меня важнее номер один и два, но номер три важен для Google. В необработанном 7-гигабайтном тексте «оскорбительного веб-контента» — лишь небольшой части контента, к которому я обращался, слово «Обама» было использовано более 330 000 раз в оскорбительном смысле. Количество раз, когда он используется подлым образом во всем Интернете, вероятно, вдвое или втрое превышает это число.
Это то, на чем обучаются языковые модели потребительского ИИ. Ни один человек не загружает в компьютер ленты с написанными от руки словами. Вместо этого «компьютер» просматривает веб-страницы и их содержимое. Эта веб-страница в конечном итоге будет проанализирована и использована в качестве входных данных. Так же как и страницы с мемами и изображениями. Так же как и блоги о том, что Земля плоская или что высадка на Луну фальсифицирована.
Если Google будет медленно двигаться, чтобы отсеять как можно больше плохого от потребительского ИИ, я полностью за это. Вы тоже должны быть такими, потому что все это превращается в сервисы, которыми вы пользуетесь каждый день на телефон, который вы планируете купить следующим.