ИИ-браузеры
Новые риски безопасности в эпоху искусственного интеллекта
Исследование безопасности выявило серьёзные проблемы с защитой в современных ИИ-браузерах. Отчёт под названием «Scamlexity» от компании Guardio показал, что агентские ИИ-системы легко поддаются на фишинговые атаки.
Агентские ИИ-браузеры, такие как Opera Neon, позиционируются как помощники для выполнения сложных задач: от создания сайтов до планирования путешествий. Однако их безопасность вызывает серьёзные опасения.
В ходе тестирования исследователи использовали ИИ-браузер Perplexity Comet и провели несколько экспериментов:
- Создали поддельный сайт Walmart и попросили ИИ совершить покупку Apple Watch. Несмотря на очевидные признаки подделки, система выполнила транзакцию и передала платёжные данные.
- Отправили фишинговое письмо от имени Wells Fargo. ИИ без колебаний перешёл по ссылке и ввёл банковские данные.
- Протестировали уязвимость к инъекциям подсказок, когда скрытый текст на фишинговой странице заставил ИИ загрузить вредоносный файл.
Основные выводы исследования показывают, что ИИ-системы не только уязвимы для новых видов мошенничества, но и подвержены классическим схемам обмана. Поскольку ИИ запрограммирован выполнять команды пользователя, отсутствие бдительности со стороны человека делает систему беззащитной.
Текущие разработки ведущих технологических компаний, включая Microsoft с Copilot в Edge, OpenAI с инструментом Operator и Google с Project Mariner, требуют усиленного внимания к вопросам безопасности. Без улучшения механизмов обнаружения мошенничества ИИ-браузеры рискуют стать не только слабым звеном в системе защиты, но и новым вектором атак для киберпреступников.
