Что тебе нужно знать
- Google вместе с шестью другими компаниями добровольно взяли на себя обязательство продвигать методы безопасности ИИ.
- Приверженность компаний будет заключаться в том, чтобы завоевать доверие общественности, усилить безопасность и предоставить публичные отчеты о своих системах.
- Это перекликается с аналогичным сотрудничеством Google с ЕС под названием «Пакт ИИ».
Google объявляет что он вместе с шестью другими ведущими компаниями в области искусственного интеллекта объединяется для продвижения «ответственных методов разработки искусственного интеллекта». Гугл, Амазон, Антропик, Inflection, Meta, Microsoft и OpenAI добровольно взяли на себя эти новые передовые методы и встречаются с администрацией Байдена-Харриса в Белом доме в июле. 21.
Возможно, одним из самых больших обязательств является укрепление доверия к ИИ или, как заявил Белый дом в своем информационный бюллетень, «завоевать доверие публики». Google ссылается на Принципы ИИ он был создан еще в 2018 году, чтобы помочь людям понять и чувствовать себя комфортно с его программным обеспечением искусственного интеллекта.
Однако, как заявляет администрация Байдена-Харриса, компании должны взять на себя обязательство разработать способы информирования пользователей о том, что контент создается с помощью ИИ. Несколько способов включают водяные знаки, метаданные и другие инструменты, позволяющие пользователям узнать, откуда что-то, например изображение, происходит.
Этим компаниям также поручено исследовать риски для общества, которые представляют системы искусственного интеллекта, такие как «вредная предвзятость, дискриминация и защита конфиденциальности».
Далее, компании должны постоянно сообщать о своих системах искусственного интеллекта публично, чтобы все, включая правительство и другие представители отрасли могут понять, где они находятся в плане безопасности и фактора социального риска. уровень. Разработка искусственного интеллекта для решения проблем здравоохранения и изменения окружающей среды включена в список обязательств.
Безопасность — еще одна горячая тема, и, как говорится в информационном бюллетене Белого дома, все семь компаний должны инвестировать в мерах кибербезопасности и «протоколах внутренних угроз» для защиты весов проприетарных и невыпущенных моделей. Последнее считается наиболее важным при разработке правильных протоколов безопасности для систем ИИ.
Компании также обязаны содействовать обнаружению третьими сторонами и сообщать о любых уязвимостях в своих системах.
Все это должно быть сделано до того, как компании смогут представить общественности новые системы искусственного интеллекта, заявляет Белый дом. Семь компаний должны провести внутренние и внешние тесты безопасности своих систем искусственного интеллекта перед выпуском. Кроме того, в отрасли, правительстве, гражданском обществе и академических кругах необходимо обмениваться информацией о передовых методах обеспечения безопасности и других подобных угрозах для их систем.
Безопасность и комфорт с искусственным интеллектом необходимы, поскольку такие компании, как Google, предупреждают своих сотрудников проявлять осторожность при использовании чат-ботов с искусственным интеллектом из соображений безопасности. Это не первый случай такого страха, поскольку Samsung сильно испугалась, когда инженер случайно представил конфиденциальный код компании к чат-боту с искусственным интеллектом.
Наконец, Google добровольно взял на себя обязательство продвигать безопасные методы искусственного интеллекта вместе с несколькими другими через два месяца после того, как он присоединился к ЕС для заключения аналогичного соглашения. Компания сотрудничала в создании «Пакт ИИ, «новый набор руководящих принципов, компаниям в регионе было настоятельно рекомендовано добровольно согласиться разобраться с программным обеспечением ИИ, прежде чем оно зайдет слишком далеко.