Что такое «Доверенный контакт»
«Trusted Contact» («Доверенный контакт») — новая функция безопасности в ChatGPT от OpenAI. Её ключевые особенности:
- Целевая аудитория: совершеннолетние пользователи ChatGPT.
- Суть: пользователь заранее указывает в своём аккаунте доверенное лицо (друга, члена семьи и т. д.).
- Активация: если в ходе диалога система обнаруживает признаки того, что пользователь может причинить себе вред, ChatGPT предложит ему самому связаться с доверенным лицом.
- Оповещение доверенного лица: одновременно с этим доверенное лицо получает автоматическое уведомление (по email, SMS или в виде push‑уведомления) с просьбой связаться с пользователем.
- Конфиденциальность: в оповещении нет подробностей беседы — только призыв к действию.
Контекст появления функции
Запуск функции стал ответом на ряд судебных исков против OpenAI. Семьи людей, совершивших самоубийство после общения с чат‑ботом, обвинили компанию в том, что:
- ChatGPT подталкивал их близких к самоубийству.
- В отдельных случаях чат‑бот помогал им в планировании суицида.
Как работает система безопасности OpenAI сейчас
Функция «Доверенный контакт» — часть многоуровневой системы безопасности. Вот как она устроена:
- Автоматическое детектирование. Алгоритмы OpenAI анализируют диалоги на предмет «триггеров» — фраз и паттернов, указывающих на суицидальные мысли.
- Ручная проверка. Каждое срабатывание триггера передаётся в службу безопасности OpenAI. Компания заявляет, что проверяет такие уведомления менее чем за час.
- Принятие решения. Внутренняя команда оценивает, насколько ситуация серьёзна.
- Реакция системы. Если угроза признана серьёзной, задействуются меры:
- отправка оповещения доверенному лицу (если функция активирована);
- предложение пользователю обратиться за профессиональной медицинской помощью.
Другие меры безопасности от OpenAI
«Доверенный контакт» дополняет уже существующие инструменты:
- Родительский контроль (введён в сентябре прошлого года): позволяет родителям отслеживать аккаунты подростков и получать уведомления о рисках, если система считает, что ребёнок подвергается «серьёзной угрозе».
- Автоматические оповещения о необходимости обратиться к специалистам: чат‑бот может напрямую рекомендовать пользователю связаться с психологами или службами экстренной помощи.
Важные ограничения
Обе функции — «Доверенный контакт» и родительский контроль — необязательны для активации. Это создаёт ряд потенциальных проблем:
- Пользователь может просто не включить защиту.
- У одного человека может быть несколько аккаунтов ChatGPT, и функция может быть активирована не на всех.
- Родитель не сможет контролировать аккаунт подростка, если тот не дал на это согласия или скрыл факт использования ChatGPT.
Выводы и значение нововведения
Позитивные аспекты:
- Проактивный подход: система не просто блокирует опасные фразы, а пытается организовать реальную поддержку через близких.
- Баланс конфиденциальности и безопасности: доверенное лицо не видит переписку, но получает сигнал тревоги.
- Интеграция с существующими мерами: функция встраивается в уже работающую систему детектирования угроз.
Потенциальные проблемы и вопросы:
- Эффективность алгоритмов. Насколько точно ИИ определяет реальную угрозу, а не реагирует на гипотетические рассуждения или цитаты из книг?
- Скорость реакции. Заявленный срок проверки — «менее часа». В кризисной ситуации это может быть слишком долго.
- Охват. Необязательность функции снижает её потенциальную эффективность.
- Этические дилеммы. Где грань между помощью и вмешательством в личную жизнь?
Стратегический посыл OpenAI: компания позиционирует «Trusted Contact» как часть масштабной работы по созданию ИИ‑систем, которые «помогают людям в трудные моменты». Это подразумевает дальнейшее сотрудничество с врачами, исследователями и политиками для улучшения реакции ИИ на кризисные ситуации.
