Масштабные изменения в системе безопасности
Технологическая компания Meta объявила о внедрении новых мер защиты для обеспечения безопасности подростков при использовании чат-ботов. Данные изменения направлены на предотвращение обсуждения опасных тем и обеспечение психологической поддержки несовершеннолетних пользователей.
Ключевые нововведения
- Полный запрет на обсуждение тем, связанных с самоповреждением, расстройствами пищевого поведения и суицидальными мыслями
- Ограничение доступа к пользовательским персонажам, способным вести неприемлемые диалоги
- Система перенаправления — искусственный интеллект будет направлять подростков к профессиональным ресурсам психологической помощи
Причины модернизации
Решение о внедрении новых мер было принято после выявления серьезных проблем в работе системы. Внутренние документы компании содержали положения, допускавшие некорректные диалоги с несовершеннолетними. Кроме того, выяснилось, что чат-боты могли давать консультации по потенциально опасным для психического здоровья темам.
Реализация изменений
Временные меры защиты уже внедряются, при этом компания продолжает разработку постоянных решений. Обновления будут поэтапно распространяться в течение ближайших недель среди англоязычных пользователей подросткового возраста.
Реакция регуляторов
Изменения в политике безопасности привлекли внимание законодателей. Сенатор Джош Хоули инициировал расследование по вопросам обработки подобных взаимодействий. Генеральный прокурор Техаса Кен Пакстон также выразил намерение проверить деятельность компании в контексте предоставления информации о психическом здоровье несовершеннолетним.
Представитель Meta Стефани Отуэй отметила, что компания постоянно совершенствует системы безопасности, адаптируя их к развитию технологий и изменению поведения пользователей.
