Что тебе нужно знать
- Рабочие по контракту, обучающие Барда из Google, утверждают, что условия работы разочаровывают, а инструкции из шести пунктов «запутаны».
- Работникам часто поручают проверить ответ в течение трех минут.
- Подрядчики обеспокоены неточностями Барда, однако в инструкциях говорится, что им не нужно проводить «строгую проверку фактов».
Программному обеспечению ИИ по-прежнему нужны реальные люди, чтобы убедиться, что оно находится на правильном пути. Однако такие тренера якобы находятся в невыносимых условиях в Google.
В соответствии с Блумберг, недавние документы, полученные изданием, предполагают, что люди, обучающие чат-бота Google с искусственным интеллектом Bard, столкнулись с «запутанными инструкциями». Шесть текущих компаний подрядчики выступили с заявлением о менее чем безупречных условиях труда, заявив: «Сейчас люди напуганы, находятся в стрессе, им недоплачивают, они не знают, что продолжается."
Из-за этого давления на них работники заявили, что им часто поручают проверить ответ в течение трех минут. Для контекста эти контрактные работники по сути являются оценщиками: людьми, которым поручено определить релевантность, подлинность и связность ответа.
Бард может предложить запрос на основе рекомендаций из шести пунктов.Эти инструкторы также обязаны следить за тем, чтобы ответы не содержали ничего оскорбительного или вредного. Учитывая тот факт, руководящие принципы инструкторам штата «не нужно проводить тщательную проверку фактов». Это может показаться нормальным, однако инструкторы обнаружили, что Google Bard склонен неверно интерпретировать «основные факты» по предмету.
Это головная боль, что в ранее упомянутых рекомендациях говорится, что некоторые фактические неточности, такие как неправильная дата, являются «незначительными».
Кроме того, оценщики упомянули такие задачи, как определение подходящей дозировки для тех, кто хочет лечить высокое кровяное давление. Из-за нехватки времени рабочие обеспокоены тем, что Бард предлагает ответы, которые кажутся правильными, хотя на самом деле это не так.
В заявлении Google подчеркивается, что оценщики — это лишь один из различных способов, которыми компания проверяет ответы на точность и качество ответов:
«Мы проводим обширную работу по ответственному созданию наших продуктов ИИ, включая тщательное тестирование, обучение и процессы обратной связи, которые мы оттачивали годами, чтобы подчеркнуть фактичность и уменьшить предвзятость».
Компания добавляет, что есть и другие области, помимо точности, такие как тон и презентация, которым, возможно, обучались некоторые заинтересованные работники.
Гугл вроде бы бросился сломя голову в разработке собственного чат-бота с искусственным интеллектом после успеха ChatGPT от OpenAI для поисковой системы Microsoft Bing. Мало того, что инструкторы-люди заявили, что с января у них была работа по подготовке ИИ, чтобы подготовить его к публичному выпуску, но и бывший инженер Google заявил, что Бард был тренировался на своем конкуренте, что, возможно, привело к его быстрому освобождению.