ИИ‑фильтр ненормативной лексики: ключевые параметры
- Принцип работы: перефразирование, а не блокировка или маскировка.
- Обратная связь:
- все участники видят уведомление о перефразировании;
- отправитель видит, какие слова отредактированы.
- Санкции: наказание за систематическое нарушение правил, несмотря на работу фильтра.
- Ограничения доступа:
- проверка возраста обязательна;
- общение только в схожих возрастных группах;
- дети младше 13 лет не могут пользоваться чатом вне специально отведённых игр.
Правовые вызовы
- иск от властей округа Лос‑Анджелес (февраль 2026): платформа делает детей лёгкой добычей для педофилов;
- иск генерального прокурора Луизианы: среда, привлекающая сексуальных хищников.
Цель системы (по словам Раджива Бхатии, директора по безопасности Roblox): создать «маховик вежливости» — обратная связь в реальном времени помогает пользователям учиться и соблюдать стандарты сообщества.
