OpenAI добавила в ChatGPT «режим блокировки» и пометку «повышенный риск»

Компания OpenAI объявила о запуске новых функций безопасности для своих продуктов на базе искусственного интеллекта — «режима блокировки» (Lockdown Mode) и маркировки «повышенный риск» (Elevated Risk). Нововведения затронут ChatGPT, ChatGPT Atlas и Codex.

«Режим блокировки» представляет собой дополнительную настройку ChatGPT, позволяющую ограничить работу отдельных инструментов и функций, которые потенциально могут быть использованы для утечки конфиденциальных данных — например, через внедрение вредоносных запросов. В частности, при просмотре web-страниц в этом режиме доступ ограничивается кэшированным контентом, а сетевые запросы в реальном времени остаются внутри контролируемой инфраструктуры OpenAI.

Функция доступна для корпоративных клиентов, а также организаций в сферах здравоохранения и образования. Режим может накладывать дополнительные ограничения поверх настроек, заданных администраторами. Предусмотрена гибкая конфигурация — пользователи и администраторы могут выбирать, какие приложения и действия будут разрешены. Также компания предлагает инструменты Compliance API Logs Platform для фиксации данных об использовании приложений и подключенных внешних источников.

Одновременно OpenAI вводит единую маркировку «повышенный риск» для функций, связанных с потенциально чувствительными операциями. Соответствующие пометки появятся в ChatGPT, ChatGPT Atlas и Codex. В частности, в Codex меткой будет сопровождаться функция доступа к внешним ресурсам, предназначенная, например, для поиска документации. Пользователи будут получать пояснения о возможных рисках и условиях, при которых предоставление доступа может быть оправданным.