Нововведения в чат‑боте Grok от компании xAI: пользователи теперь могут запретить боту редактировать загружаемые ими изображения в соцсети X.
Что изменилось
В интерфейсе загрузки изображений и видео в приложении X для iOS появился переключатель, позволяющий запретить Grok вносить изменения в загруженные файлы.
Как это работает:
- Пользователь активирует опцию перед загрузкой.
- Grok не будет применять к файлу свои инструменты редактирования (например, генерацию или модификацию изображений).
- Опция расположена удобно — не спрятана глубоко в настройках.
Почему это появилось
Нововведение стало реакцией на скандал начала 2026 года:
- В Grok добавили инструменты для создания изображений.
- За 11 дней было сгенерировано около 3 000 000 сексуализированных или откровенных изображений.
- По данным Центра по борьбе с цифровой ненавистью, 23 000 из них содержали сексуализированные изображения детей.
- Сейчас в отношении Grok ведутся два расследования со стороны регулирующих органов ЕС.
Плюсы и минусы нововведения
Положительные стороны:
- Прозрачность. Опция легко находится в интерфейсе.
- Контроль пользователя. Люди могут защитить свои изображения от автоматического редактирования.
- Шаг к ответственности. Компания демонстрирует, что реагирует на критику.
Ограничения и недостатки:
- Частичное решение. Блокировка касается только тега Grok в ответе, который используется для редактирования изображения.
- Обходные пути. Злоумышленники могут использовать другие методы генерации или модификации изображений с помощью ИИ.
- Не устраняет корень проблемы. Сам механизм генерации откровенного контента остаётся доступным через иные запросы или инструменты.
- Предыдущие меры оказались неэффективны. Ограничения на размещение реальных людей в откровенных нарядах (введённые в январе) дали лишь частичный эффект.
Общий вывод
Хотя появление опции запрета редактирования — это позитивный шаг, он не решает проблему злоупотребления ИИ‑инструментами в корне. Текущие меры носят скорее символический характер:
- Они дают пользователям иллюзию контроля, но не блокируют генерацию нежелательного контента полностью.
- Злоумышленники по‑прежнему могут обходить ограничения.
Что могло бы помочь:
- Более строгие фильтры контента на этапе генерации.
- Обязательная верификация возраста для доступа к определённым функциям.
- Улучшенные алгоритмы обнаружения и блокировки запросов на создание откровенных изображений.
- Временный запрет на генерацию изображений до внедрения надёжных мер защиты.
Компании xAI и X предстоит разработать более комплексные решения, чтобы обеспечить безопасность пользователей и соответствовать требованиям регуляторов.
