Компания Meta объявила о масштабном изменении подхода к модерации контента: в ближайшие годы она резко сократит число модераторов‑людей и сделает ставку на системы на основе искусственного интеллекта (ИИ). Разберём ключевые детали решения.
Основные тезисы заявления Meta
- Постепенный переход. Изменения произойдут «в течение следующих нескольких лет».
- Ключевая роль людей сохраняется. Сотрудники будут:
- разрабатывать, обучать, контролировать и оценивать системы ИИ;
- измерять эффективность ИИ‑систем;
- принимать наиболее сложные и важные решения — например, при обжаловании блокировки аккаунта или обращении в правоохранительные органы.
- Экономия ресурсов. Сокращение штата подрядчиков (тысяч сотрудников по всему миру) позволит компании сэкономить значительные средства.
Текущие достижения и планы
- Тестирование больших языковых моделей. Meta уже тестирует ИИ‑системы для модерации контента — первые испытания дали «многообещающие» результаты.
- Расширение языковой поддержки. ИИ может работать с языками, на которых говорят 98% пользователей интернета (сейчас система модерации поддерживает 80 языков).
- Запуск «помощника по поддержке». В ближайшее время появится чат‑бот на базе ИИ для помощи пользователям:
- будет интегрирован в приложения Facebook и Instagram;
- поможет сообщать о проблемном контенте и обрабатывать жалобы;
- позволит сбрасывать пароли и управлять настройками аккаунта;
- начнёт с отдельных случаев в США и Канаде — в т. ч. поможет пользователям, которые не могут войти в свои аккаунты.
Аргументы Meta в пользу перехода
Компания утверждает, что новые системы:
- выявляют больше серьёзных нарушений;
- работают быстрее текущего подхода;
- допускают меньше ошибок «из‑за чрезмерного контроля».
Потенциальные риски и критика
Несмотря на оптимистичные заявления, у перехода на ИИ есть и обратная сторона:
- Неясность масштабов сокращений. Meta не сообщила, какая часть сотрудников, работающих по контракту, может быть уволена.
- Текущие проблемы с ИИ‑модерированием. Многие пользователи уже сейчас жалуются, что ИИ‑системы:
- допускают много ошибок;
- не передают их обращения модераторам‑людям.
- Изменение восприятия платформы. Новый подход может кардинально изменить представление пользователей о том, как Meta следит за соблюдением правил.
Итог. Meta делает ставку на автоматизацию модерации контента, рассчитывая повысить эффективность и сократить расходы. При этом компания подчёркивает, что люди останутся ключевыми в принятии сложных решений и развитии ИИ‑систем. Реальный эффект от изменений станет понятен по мере их внедрения — особенно в части точности модерации и реакции пользователей на новый подход.
