Краткий итог
Anthropic запустила тестирование «автоматического режима» в Claude Code — функции, призванной повысить безопасность работы ИИ‑агента при выполнении команд (в т. ч. файловых операций и bash‑команд), снизив риск случайного удаления данных, утечки конфиденциальной информации или запуска вредоносного кода.
Основные детали
1. Что такое «автоматический режим» в Claude Code?
Это промежуточное решение между:
- поведением по умолчанию — Claude запрашивает подтверждение на каждую запись в файл и каждую команду bash;
- режимом «dangerously‑skip‑permissions» — полностью автономной работой чат‑бота (используется некоторыми программистами для ускорения задач, но несёт высокие риски).
2. Как работает новый режим?
В нём задействована система классификации, которая:
- разрешает Claude выполнять действия, признанные безопасными;
- перенаправляет чат‑бота на другой подход, если действие может быть рискованным.
3. Какие риски пытается устранить Anthropic?
Компания стремится минимизировать вероятность следующих сценариев:
- массовое удаление файлов;
- извлечение конфиденциальных данных;
- выполнение вредоносного кода.
4. Ограничения и предупреждения
Anthropic прямо указывает, что система не идеальна. Классификатор может допустить рискованные действия в случаях:
- неоднозначных намерений пользователя;
- недостатка информации о среде пользователя, из‑за чего Claude не может оценить полный спектр рисков.
5. Контекст появления функции
Хотя Anthropic не называет конкретный инцидент‑катализатор, на фоне выделяется 13‑часовой сбой в работе AWS. По неподтверждённым данным, его причиной стало то, что один из ИИ‑инструментов Amazon удалил среду хостинга. Amazon позже объяснила сбой человеческим фактором: у причастного сотрудника оказались «более широкие полномочия, чем ожидалось».
6. Доступность
- уже сегодня: пользователи тарифного плана Team;
- в ближайшие дни: пользователи тарифов Enterprise и API.
Выводы
Anthropic реагирует на растущие опасения вокруг автономности ИИ‑агентов в разработке ПО. «Автоматический режим» — попытка найти баланс между удобством (автономностью) и безопасностью. При этом компания честно предупреждает о границах возможностей системы, подчёркивая, что полная защита от ошибок и злоупотреблений пока недостижима.
