Основные идеи Фрэнсиса де Соузы (операционный директор Google Cloud)
- Безопасность — не второстепенный вопрос. При внедрении ИИ компаниям нужно использовать платформенный подход: безопасность нельзя добавить позже или делегировать отдельным сотрудникам.
- Опасность «теневого ИИ». Сотрудники могут использовать потребительские ИИ‑инструменты без контроля со стороны организации — это создаёт риски.
- Стратегии должны идти рука об руку. Стратегия в области ИИ невозможна без:
- стратегии в области данных;
- стратегии безопасности.
- Мультиоблачный подход. Даже если компания выбирает одно облако, она зависит от SaaS‑приложений, а её партнёры могут использовать другие облака. Поэтому система безопасности должна быть единообразной для всех облаков и моделей.
- Фундаментальное изменение ландшафта угроз:
- среднее время между взломом и переходом к следующему этапу атаки сократилось с 8 часов до 22 секунд;
- поверхность атаки расширилась за пределы традиционного сетевого периметра.
- Новые объекты защиты: модели, конвейеры данных для обучения моделей, агенты, подсказки — всё это нужно защищать.
- Угроза забытых хранилищ данных. Агенты, перемещающиеся по внутренним системам компании, могут обнаружить старые хранилища данных (например, серверы SharePoint), которые давно не обновлялись и не контролировались.
- Автоматизированная защита на основе ИИ. Организации могут использовать агентов для управления системой защиты — вместо защиты, управляемой человеком. Но это уже проблема не только IT‑отдела, но и руководства (совета директоров и исполнительной команды).
Реальные проблемы и инциденты
- Неожиданные счета за API‑вызовы Gemini (по данным The Register):
- API‑ключи, изначально использовавшиеся для Google Maps и опубликованные в открытом доступе, стали доступны для Gemini после расширения сферы их применения со стороны Google (без уведомления пользователей);
- примеры ущерба:
- Род Данан (Prentus): списали $10 138 за 30 минут использования скомпрометированного ключа;
- Исуру Фонсека (Сидней): списали около 17 000 австралийских долларов при лимите в 250 долларов.
- Google вернула деньги пострадавшим, но не планирует менять политику автоматического повышения тарифных планов (приоритет — предотвращение перебоев в работе сервисов).
- Задержка отзыва скомпрометированных ключей (по данным Aikido):
- даже после удаления скомпрометированного ключа злоумышленники могут использовать его до 23 минут;
- в течение этого времени вероятность успешной аутентификации может превышать 90 %;
- за это время злоумышленники могут украсть файлы и кэшированные данные из Gemini.
- Более быстрые альтернативы:
- учётные данные API для служебных аккаунтов отзываются за ~5 секунд;
- новый формат ключей Gemini с префиксом AQ — за ~1 минуту.
- вывод эксперта Джозефа Леона (Aikido): задержка в 23 минуты — не инженерное ограничение, а вопрос приоритетов компании.
Мнение эксперта по безопасности
Леа Кисснер (директор по информационной безопасности LinkedIn) в интервью New York Times отметила:
- уязвимости, создаваемые самим ИИ, множатся быстрее, чем службы безопасности успевают их устранять;
- отрасль не сможет обеспечить безопасность ИИ в долгосрочной перспективе ещё как минимум несколько лет;
- потребуются специалисты, которые будут бороться с «апокалипсисом уязвимостей».
Выводы
- Разрыв между теорией и практикой. Советы де Соузы разумны, но существует разрыв между тем, что предписывают платформы, и тем, насколько быстро они сами адаптируются к новым условиям (например, задержки в отзыве ключей, неожиданные счета).
- Необходимость комплексного подхода. Безопасность ИИ требует:
- платформенного подхода;
- интеграции со стратегиями данных и безопасности;
- мультиоблачной защиты;
- автоматизации;
- участия руководства.
- Реальные риски. Даже крупные платформы (как Google Cloud) сталкиваются с проблемами, которые создают риски для пользователей:
- неожиданные расходы;
- задержки в реагировании на инциденты;
- сложности контроля за доступом.
- Дефицит специалистов. Отрасль испытывает нехватку кадров, способных контролировать работу ИИ и устранять уязвимости.
