BingGPT настолько плох, насколько я думал

Недавно Microsoft открыла расширенный ChatGPT поиск Bing для группы людей, и это доказывает, насколько это плохо. Мы не должны удивляться, потому что этот тип ИИ на 90% новинка, но мы удивлены тем, что он был раскручен как следующее пришествие технологической святости.

Это не. Microsoft тоже не виновата — Google будет таким же — просто технология не предназначена для этого, а если бы и была, то даже близко не готова. единственные люди жажду большего Такого рода интеграция ИИ с использованием современных технологий — это люди, которые на самом деле не понимают ее ограничений.

Даже генеральный директор OpenAI Сэм Альтман говорит, что «люди просят разочароваться, и они будут" когда дело доходит до ChatGPT (OpenAI - это компания, которая создала программное обеспечение ChatGPT). Это не имело значения, потому что люди видели, как все веселятся, и в то же время утверждали, что это лишить людей работы или превратить учебу в легкий режим, потому что она может написать все бумаги для студенты. Компании просто должны были сесть в поезд хайпа и попытаться заработать, к черту последствия.

Так что же не так с BingGPT, спросите вы? Множество. Он не боится отбросить расовые оскорбления. Он получил каждый факт неправильный в своей демонстрации по сценарию, когда Microsoft объявила об этом. Если вы спросите, это будет сказать вам, что Eagles выиграли Суперкубок за день до того, как он был сыгран. Но больше всего он имитирует поведение, на котором его обучали: люди печатают что-то в Интернете.

Дело в точке:

Это не обман и не много других примеров BingGPT столь же глуп. Вы просто должны понять, почему он делает то, что делает, и все это имеет смысл.

ChatGPT и большинство других LLM (большие языковые модели) обучаются, «читая» Интернет. Гигантская цифровая библиотека текстов идеально подходит для обучения ИИ искать ответы и пытаться звучать как человек, когда он извергает их вам.

Но это не человек, и у него нет чувства правильного и неправильного, когда дело доходит до ответа вам. Это означает, что у него нет возможности узнать, является ли представленная информация фактической, и он основывает свою «личность» на пользователях Интернета.

Первую исправить будет сложно. Несмотря на то, что мы называем это искусственным интеллектом, он явно не разумен. Он как попугай и может только повторять то, что ему сказали. Второе невозможно исправить, не найдя новый способ обучения ИИ — он может вести себя как тролль Reddit, потому что научился у троллей Reddit.

ИИ запрограммирован реагировать, используя такие термины, как настойчивый, авторитетный, добрый и т. д. Показаны примеры того, как выглядит каждая из этих вещей. Результат иногда похож на спор с наркоманом, потому что он научился спорить, как это делает наркоман. Это не зло, не глупо и даже не противно. Он просто делает то, для чего был запрограммирован: прогнозирует и использует примеры из своей базы данных, чтобы звучать как человек.

Прямо сейчас это хорошо для смеха и ничего больше, если вы не пытаетесь нажиться на мошенничестве с вашим платным курсом "ChatGPT как профессионал.» Microsoft (и Google) никогда не должны были представлять это как что-то иное, кроме аккуратной игрушки. Но оба сделали это, и теперь мы ожидаем, что он будет надежным и авторитетным, когда дело доходит до поиска, и не будет звучать так, как ответы в Твиттере, с которыми его обучали.

Будущие поколения LLM будут лучше искоренять чепуху, и, возможно, они также будут лучше приспособлены для того, чтобы стать нашими поисковый бот/лучший друг, но для этого потребуется серьезный прорыв в ИИ — все, что основано на нынешних методах, никогда не будет достаточно хорошо. А пока не забывайте наслаждаться крушением поезда и не воспринимайте его слишком серьезно, если и когда оно произойдет. Ваш телефон.