Meta представляет инструмент для идентификации AI-контента: технология Content Seal
Meta разрабатывает веб-инструмент для идентификации изображений и видео. Которые созданы с помощью новой модели генерации Muse Image. Данное решение позволяет обнаруживать невидимые цифровые водяные знаки, используемые в контенте, сгенерированном AI.
Принцип работы системы Content Seal
Система маркировки Content Seal сохраняет свою целостность даже при кадрировании. А также при сжатии, изменении размера или создании скриншотов. Представленный инструмент позволяет проверить, содержит ли изображение водяной знак Content Seal. Это дает возможность определить, было ли оно создано с помощью Meta AI.
Технические особенности и ограничения
Content Seal представляет собой проприетарную технологию, интегрированную в Muse Image. Ранее компания выпускала открытые версии аналогичных решений. В отличие от предыдущих моделей Meta AI, которые добавляли видимый логотип в правый нижний угол, новые модели не используют видимые водяные знаки.
На текущем этапе возможности детекции ограничены изображениями, созданными или отредактированными с помощью Muse Image. Meta планирует расширить применение Content Seal на AI-генерированные и отредактированные видео, а также разрабатывает отдельную модель генерации видео Muse Video.
Результаты тестирования
В ходе тестирования веб-инструмент успешно идентифицировал водяные знаки как на полностью созданных AI изображениях, так и на отредактированных версиях. Система также обнаруживала маркировку на скриншотах. Положительный результат указывает на использование Meta AI, отрицательный – на отсутствие обработки данным инструментом.
Существующие ограничения
Примечательно, что функция детекции пока не интегрирована в приложение Meta AI. При обращении к встроенному ассистенту с запросом о проверке изображения, система сообщила об отсутствии соответствующих возможностей.
Content Seal несовместим с установленными методами маркировки SynthID и C2PA Content Credentials. В ходе тестирования инструмент не смог идентифицировать изображения, созданные более ранними версиями AI-моделей Meta. Кроме того, система подвержена ограничениям по количеству проверок – после нескольких загрузок пользователь получает уведомление о достижении дневного лимита.
Ранее Meta подвергалась критике со стороны Наблюдательного совета за непоследовательное применение цифровых водяных знаков на AI-контенте, созданном собственными инструментами компании.
