Суть проблемы
Apple и Google, несмотря на собственные правила, допускают в своих магазинах приложения, которые:
- «раздевают» реальные фотографии людей (создают обнажённые изображения на основе обычных фото);
- накладывают лица пользователей на тела в откровенных сценах (Video Face Swap AI: DeepFace и аналоги);
- продвигаются через рекламу в магазинах приложений;
- получают высокие рейтинги «Для всех» (рейтинг «Е» у Video Face Swap AI: DeepFace), что делает их доступными для детей.
Ключевые факты из отчёта Tech Transparency Project (TTP)
- Количество приложений: 18 в App Store, 20 в Google Play.
- Общий доход: около 122 миллионов долларов.
- Число скачиваний: 483 миллиона раз.
- Методы обнаружения: поиск по запросам «обнажить», «раздеть» и аналогичным.
- Способы продвижения: реклама в результатах поиска магазинов приложений, сексуальные изображения в промоматериалах.
- Рейтинг: многие помечены как «Доступные для всех» (All).
Реакция Apple и Google
Компании заявили о принятии мер после публикации отчёта:
- Apple: удалила 15 приложений, выявленных TTP.
- Google: приостановила действие ряда подобных приложений.
При этом проблема остаётся системной:
- приложения не только не удаляются вовремя, но и активно продвигаются магазинами;
- компании получают прибыль с таких приложений (через комиссии за покупки внутри них);
- механизмы модерации не справляются с выявлением нарушений, особенно когда функционал маскируется (например, приложение не называет себя дипфейком, но позволяет создавать откровенные изображения).
Правовой контекст и международные меры
Распространение таких приложений вызвало реакцию на уровне государств:
- Великобритания: уполномоченный по правам ребёнка призвал запретить приложения для создания дипфейков с использованием ИИ, если они создают обнажённые или сексуальные изображения детей.
- США: предложены или уже приняты законы, запрещающие откровенные дипфейки.
- Калифорния: генеральный прокурор направил предписание компании X (Илону Маску) о прекращении использования откровенных дипфейков Grok.
- Сан-Франциско (2024): офис городского прокурора Дэвида Чиу подал иск против владельцев 16 веб‑сайтов за создание обнажённых изображений женщин и девочек с помощью ИИ без их согласия (нарушение законов о дипфейк‑порнографии и сексуальном насилии над детьми).
- Microsoft (2024): объявила о партнёрстве с организацией StopNCII для усиления борьбы с дипфейк‑порнографией в поисковой системе Bing.
Почему это опасно
Приложения для создания дипфейков несут серьёзные риски:
- Сексуальная эксплуатация без согласия: люди (особенно женщины и дети) становятся жертвами создания откровенных изображений без их разрешения.
- Шантаж и травля: такие изображения могут использоваться для вымогательства, запугивания и унижения жертв.
- Угроза психическому здоровью: жертвы сталкиваются с травлей, депрессией и социальной изоляцией.
- Распространение дезинформации: технология может использоваться для дискредитации публичных лиц или создания компромата.
- Доступность: ИИ сделал создание дипфейков чрезвычайно простым — достаточно загрузить фото и нажать кнопку.
Выводы
Ситуация демонстрирует кризис модерации в крупных магазинах приложений:
- правила существуют, но не соблюдаются на практике;
- алгоритмы продвижения подталкивают пользователей к сомнительному контенту;
- прибыль от таких приложений превосходит стимулы к их удалению;
- технологии развиваются быстрее, чем законодательство и механизмы контроля.
Тенденция: правительства начинают принимать законы против откровенных дипфейков, а компании вынуждены реагировать на давление общественности. Однако эффективность этих мер пока под вопросом — особенно с учётом того, что часть приложений разработана в странах с менее строгим регулированием (например, в Китае).
