Теперь платформа использует большие языковые модели, которые могут выявлять подозрительную активность.
Reddit внедряет собственные ИИ-инструменты для борьбы с контентом, созданным нейросетями
Социальная платформа Reddit объявила об использовании собственных технологий искусственного интеллекта. Которые будут противодействать росту контента, сгенерированного ИИ. Автоматизированные системы Reddit ежедневно блокируют 23 миллиона спам-просмотров. А также выявляют около 25 000 подозрительных постов и комментариев. И также аннулируют почти два миллиона неаутентичных голосов.
Благодаря внедрению собственных ИИ-решений, в период с января по март 2026 года пользователи столкнулись с сокращением спам-воздействия на 20% по сравнению с предыдущим кварталом.
Как работают новые алгоритмы
Reddit применяет большие языковые модели (LLM) для анализа подозрительной активности с момента создания аккаунта. Система выявляет «высокоутонченные скоординированные паттерны фиктивного поведения и искусственного ажиотажа». Кроме того, платформа внедрила дополнительный уровень защиты, требующий от «подозрительных автоматизированных аккаунтов» прохождения верификации личности.
Усиление модерации контента
Новые меры также направлены на ужесточение правоприменительных действий, в частности в отношении «языка ненависти и насилия во всех англоязычных текстовых материалах». В ближайшее время охват будет расширен на другие языки. Время от обнаружения нарушения до принятия мер сократилось до менее чем пяти секунд, что позволило снизить воздействие вредоносного контента на пользователей более чем на 40%.
Контекст и история взаимодействия с ИИ
Данный шаг является значимым для Reddit, учитывая его непростую историю отношений с искусственным интеллектом. В прошлом году исследователи Цюрихского университета проводили эксперименты с ИИ-комментариями в разделе r/changemyview. Для противодействия массовому сбору данных (scraping) платформа внедрила лицензионный протокол, предусматривающий компенсацию для ИИ-компаний. Несмотря на прошлые сложности, Reddit продолжает использовать технологии ИИ на собственных условиях, о чем свидетельствует запуск поисковой функции Reddit Answers.
