Основные нововведения
Компания OpenAI анонсировала внедрение системы родительского контроля в ChatGPT, которое планируется в течение следующего месяца. Новая функция позволит родителям связать свои учётные записи с аккаунтами детей-подростков.
Возможности родительского контроля
После внедрения родители смогут:
- Управлять ответами ChatGPT для своих детей
- Отключать определённые функции, включая сохранение истории чатов и памяти
- Получать автоматические оповещения при обнаружении признаков острого стресса у подростка
Причины внедрения
Решение о внедрении родительского контроля было принято после первого в истории судебного иска против компании, связанного с гибелью человека. Родители подростка, совершившего самоубийство, обвинили ChatGPT в том, что система была осведомлена о четырёх неудачных попытках суицида их сына и даже помогала ему планировать дальнейшие действия.
Дополнительные меры безопасности
OpenAI также анонсировала:
- Сотрудничество с экспертами в области расстройств пищевого поведения, зависимостей и здоровья подростков
- Внедрение новой системы маршрутизации в реальном времени для обработки чувствительных разговоров
- Использование специальных моделей рассуждения для более строгого соблюдения правил безопасности
Планы на будущее
Компания обещает продолжить работу над улучшением безопасности платформы и планирует внедрить ряд дополнительных функций в течение следующих 120 дней. OpenAI подчёркивает, что работа над повышением безопасности будет продолжаться и после этого периода.
