Текущая политика Meta: неравенство между публичными и обычными людьми
Надзорный совет Meta призвал компанию усилить защиту обычных пользователей от сексуализированных дипфейков. В текущей редакции политика Meta в отношении подобного контента, по мнению совета, ориентирована преимущественно на публичных лиц.
Ключевые рекомендации совета
Изменение подхода к AI-контенту
Совет рекомендует включить в политику Meta по борьбе с сексуальной эксплуатацией взрослых положение об AI-сгенерированных изображениях, которые по умолчанию являются неконсенсуальными.
Механизм «связанных аккаунтов»
Также предлагается разрешить пользователям назначать «связанные аккаунты» (например, доверенных друзей или родственников), которые смогут сообщать о нарушениях, включая нежелательный интимный контент, от их имени.
Отдельная категория для AI-подделок
Кроме того, совет настаивает на выделении AI-сгенерированных сексуализированных подделок в отдельную категорию в формах подачи жалоб и апелляций, а не смешивать их с домогательствами или наготой.
Глобальная проблема ограниченного доступа к инструментам защиты
В настоящее время специализированная форма для сообщений о дипфейках доступна только жителям Техаса и Флориды. Совет подчеркивает, что «AI-сгенерированное неконсенсуальное интимное насилие является глобальной проблемой», и требует предоставить всем пользователям Meta равный доступ к этому инструменту.
Инцидент, ставший поводом для расследования
Поводом для расследования послужил случай, когда Meta неоднократно игнорировала жалобу пользователя на AI-видео, изображающее его знакомую. Ролик демонстрировал женщину, поправляющую одежду, с несколькими кадрами, где видно её нижнее белье. Пострадавшая к тому моменту уже удалила свой аккаунт. Два пользователя сообщили о нарушении, но Meta не удалила дипфейк. После вмешательства совета компания лишь ограничила доступ к видео для взрослых, посчитав, что оно не нарушает правила сообщества.
Проблема доказательства отсутствия согласия
В ходе расследования выяснилось: Meta утверждает, что на момент подачи жалобы у неё не было доказательств, что изображённый человек реален. Если бы жертва сама сообщила о видео, это было бы расценено как явный признак отсутствия согласия. Другими индикаторами неконсенсуальности для Meta считаются сообщения от правоохранителей, СМИ или доверенных партнёров, а также подписи, указывающие на «мстительный или сенсационный характер» публикации.
Совет отмечает, что для непубличных лиц единственным реальным способом доказать отсутствие согласия является самоотчёт. Привлечь полицию или медиа обычным людям гораздо сложнее, чем публичным фигурам. Meta обязана рассмотреть рекомендации, но не обязана их внедрять. Впрочем, по данному делу совет отменил решение компании и потребовал удалить видео.
Масштаб проблемы: мнение надзорного совета
«AI-инструменты привели к глобальному распространению сексуализированного неконсенсуального контента. Распространение дипфейков наносит репутационный и психологический ущерб, непропорционально затрагивая женщин и девочек, и оказывает сдерживающее влияние на участие в социальной и политической жизни», — говорится в отчёте совета.
Предыстория критики в адрес Meta
Это не первая критика совета в адрес Meta по вопросам AI-контента. Ранее компанию упрекали в непоследовательном применении правил, а также призывали создать отдельную политику для AI-материалов, отличную от правил о дезинформации.
