Что тебе нужно знать
- Google начинает предостерегать своих сотрудников от передачи конфиденциального кода компании в собственное программное обеспечение для искусственного интеллекта Bard.
- Компания все больше обеспокоена возможностью утечки данных, поскольку информация в боте может стать достоянием общественности.
- Аналогичные меры, направленные на то, чтобы уделять больше внимания конфиденциальности и безопасности с помощью программного обеспечения AI, были приняты в ЕС и Samsung.
Несмотря на Google мчится вперед Чтобы внедрить в свою поисковую систему собственного чат-бота с искусственным интеллектом, компания теперь пытается отговорить сотрудников от его использования. В соответствии с Рейтер, компания из Маунтин-Вью советует сотрудникам воздерживаться от передачи конфиденциальных материалов в чат-бот с искусственным интеллектом. Alphabet распространил это предупреждение и на компьютерный код.
Гугл бард может помочь программистам с их кодированием, но, как заявляет компания, компания сообщила Reuters, что иногда она может делать «нежелательные» предложения. Кроме того, из-за того, как работают чат-боты, такие как Bard, существует вероятность утечки данных. Мало того, что человек может прочитать ваш чат (по любой такой причине), но другой ИИ может получить эту информацию. как часть своего учебного процесса, а затем рассеять его в обмен на другой запрос, Reuters объяснил. В свою очередь, это позволит сделать очень конфиденциальные данные общедоступными.
У компании есть заявление о Часто задаваемые вопросы о барде страница, на которой пользователям предлагается не «включать информацию, которая может быть использована для идентификации вас или других лиц в вашем барде». разговоры.» Однако, в конце концов, чат-бот не может понять, какая конфиденциальная информация компании или код выглядит.
Google также проинформировал Reuters о своих текущих пробках в ЕС, поскольку он решает вопросы с Комиссией по защите данных Ирландии. Они обеспокоены влиянием Bard на конфиденциальность пользователей, что перекликается с другими опасениями Европейской комиссии.
Европейская комиссия и Google с мая ведут переговоры о разработке новые правила для программного обеспечения ИИ, называемого «Пактом ИИ». Этот добровольный пакт затронет европейские и неевропейские страны, поскольку Комиссия надеется справиться с программным обеспечением ИИ и его потенциальными рисками для конфиденциальности.
Это также включает Соединенные Штаты, которые также работают с ЕС над созданием нового «минимального стандарта» для ИИ, поскольку продолжают расти опасения по поводу потенциальных опасностей для безопасности человека, который использует чат-бот.
Кроме того, Google удерживает своих сотрудников от передачи конфиденциальной информации о компании и конфиденциальных данных в эхо своего чат-бота AI. что сделал самсунг со своими рабочими в мае. Корейский OEM-производитель фактически запретил своим сотрудникам использовать чат-ботов с искусственным интеллектом, таких как Bard и ChatGPT, после инцидента с инженером Samsung. Они отправили конфиденциальный код компании в чат-бот с искусственным интеллектом, что вызвало быстрое и внезапное отключение программного обеспечения.
Во время Google I/O 2023 компания заявила, что сосредоточится на том, чтобы быть «ответственный"с его программным обеспечением для искусственного интеллекта. Компания сообщила Reuters, что стремится быть прозрачной в отношении ограничений технологии.