OpenAI запускает режим блокировки для дополнительной защиты от атак с использованием подсказок.
Компания подчёркивает, что большинству пользователей данная функция не требуется.
Что такое «Режим изоляции» и зачем он нужен?
OpenAI запускает «Режим изоляции» — это новая настройка безопасности. Она защищает пользователей от ситуаций, когда злоумышленники прячут опасные команды на сайтах или в файлах, чтобы обмануть ChatGPT.
Что такое инъекция промпта?
Для непосвящённых поясним: инъекция промпта — это форма социальной инженерии, характерная для диалоговых чат-ботов. ИИ-системы совершенствуются в извлечении данных из интернета. А злоумышленники начали скрывать вредоносные инструкции на веб-страницах, пытаясь обмануть эти системы.
OpenAI позиционирует «Режим изоляции» как своего рода последний рубеж обороны против подобных атак.
Как работает защита?
OpenAI подчёркивает: «Режим изоляции — не для каждого. Он нужен тем, кто работает с секретными данными и хочет дополнительно обезопасить себя. Поэтому при его включении становятся недоступны некоторые возможности.
Кому предназначена новая функция?
«Режим изоляции предназначен не для всех, — поясняет OpenAI. — Он создан для организаций и частных лиц, работающих с конфиденциальными данными и нуждающихся в повышенной защите от рисков утечки информации, связанных с инъекциями промптов».
В связи с этим активация «Режима изоляции» ограничивает некоторые функции, доступные в ChatGPT и других продуктах OpenAI.
Какие функции ограничиваются?
«Режим изоляции не влияет на память, загрузку файлов, возможность делиться диалогами или использование ваших разговоров для улучшения моделей, — добавляет OpenAI. — Многие из этих параметров настраиваются отдельно администраторами рабочих пространств».
«Режим изоляции не затрагивает память, загрузку файлов, возможность делиться диалогами или использование ваших разговоров для улучшения моделей, — добавляет OpenAI. — Многие из этих параметров настраиваются отдельно администраторами рабочих пространств».
Как активировать и отключить режим?
Режим доступен для всех личных аккаунтов, включая пользователей бесплатного тарифа ChatGPT. Для активации выполните следующие шаги:
- Откройте меню настроек ChatGPT.
- Выберите раздел «Безопасность».
- Перейдите в подраздел «Расширенная безопасность».
- Нажмите на «Режим изоляции» и активируйте переключатель.
OpenAI также представила менеджер активных сессий. С его помощью вы можете увидеть все устройства и браузеры, с которых заходили в свой аккаунт.
Новый менеджер активных сессий
Параллельно OpenAI запускает менеджер активных сессий, позволяющий просматривать все устройства и браузеры, с которых осуществлялся доступ к вашему аккаунту. В этом же интерфейсе компания предлагает возможность выйти из отдельных или всех сессий одновременно. Следует учитывать, что последняя операция может занять до 30 минут.
«Если вы подозреваете, что кто-то получил доступ к вашему аккаунту без разрешения, смените пароль (если он используется), проверьте, какие способы входа подключены, и обратитесь в службу поддержки OpenAI», — рекомендуют разработчики.
