ИИ-редактор сам меняет код и ставит пакеты как запретить опасные команды

Допустим, вы открыли проект в ИИ-редакторе (программе для написания кода с искусственным интеллектом) и дали ему расширенный доступ. Теперь он не просто советует, а сам создает файлы, правит настройки и предлагает обновить библиотеки.

Что происходит на самом деле, когда ассистент предлагает обновить библиотеку

Вы пишете в чате: «Обнови React до последней версии». Ассистент не просто отвечает текстом. Он лезет в файл зависимостей (список всех программных библиотек, которые использует ваш проект), меняет там цифры версии, открывает встроенный терминал (черный экран с командной строкой) и запускает команду установки. Если в настройках редактора стоит «разрешить без подтверждения», он сделает это за секунду. Вы увидите только готовый результат. Проблема в том, что новая версия библиотеки может конфликтовать с вашим старым кодом, ломать верстку или менять логику авторизации. Без фиксации изменений (diff — списка конкретных правок) вы даже не поймете, что именно сломалось и в какой строчке.

Почему ИИ так рвется в терминал и чем это опасно

Для модели запуск команды — это самый короткий путь решить задачу. Она не чувствует риска. Терминал для нее — просто инструмент, как молоток. Но в терминале есть команды, которые меняют не только код, но и ваш компьютер. Например, удаление папки с исходниками, сброс настроек базы данных или отправка ваших секретных ключей (паролей от сервисов) на чужой сервер. Системные файлы — это настройки самого редактора или операционной системы. Если ИИ молча перепишет файл с правилами проекта, у вас может отключиться проверка ошибок, и вы узнаете об этом только тогда, когда программа упадет у пользователя. Автономность полезна для рутины, но критические изменения требуют вашего глаза.

Как проверить текущие разрешения в вашем редакторе

Сегодня же откройте настройки вашего ИИ-редактора (в Cursor это раздел Tools & Integrations, в VS Code с GitHub Copilot — раздел Chat или Settings). Найдите пункты, отвечающие за действия агента. Обычно они называются «Auto-run» (автозапуск), «Allowed Tools» (разрешенные инструменты) или «Permissions» (разрешения). Посмотрите, что там включено прямо сейчас. Если напротив «Run shell commands» (запуск команд в терминале) стоит «Always allow» (разрешать всегда) или «Auto», а рядом с «Edit system files» (изменение системных файлов) нет требования подтверждения — вы работаете на доверии к модели. Проверьте также историю недавних сессий: если там есть записи «terminal command executed» (команда в терминале выполнена), а вы их не инициировали голосом или кликом, значит, ассистент уже действует самостоятельно.

Как настроить подтверждения: автопилот для рутины, ручной тормоз для риска

В тех же настройках измените режим работы. Для безопасного создания файлов и написания нового кода оставьте «разрешить» — пусть ИИ сам создает новые компоненты, тесты и документацию. Это экономит время и не несет риска. А для трех опасных зон включите «Require confirmation» (требовать подтверждение) или «Ask every time» (спрашивать каждый раз): 1. Запуск команд в терминале. Когда ассистент захочет выполнить команду, редактор должен показать вам черную плашку с текстом этой команды и две кнопки — «Выполнить» и «Отмена». 2. Изменение системных файлов. Речь о файлах вроде конфигурации линтера (проверщика ошибок), линкера (сборщика) или настроек самого редактора. Перед правкой ИИ должен показать diff — две колонки: слева старый код, справа новый, где изменения подсвечены красным и зеленым. 3. Установка и удаление пакетов. Любая команда, которая скачивает код из интернета (npm install, pip install). Вы должны видеть, какую именно библиотеку и какой версии он хочет поставить.

Как это работает в деле: один сквозной пример

Вы просите: «Добавь валидацию (проверку) email в форму регистрации». ИИ создает новый файл с правилами проверки и предлагает запустить тесты. Вы нажимаете «Выполнить» — тесты запускаются, это безопасно. Затем он видит, что тесты падают, и предлагает «обновить библиотеку Zod (инструмент для проверки данных) до версии 4, чтобы починить типы». Вот тут срабатывает ручной тормоз. Редактор показывает вам diff: в файле package.json (список зависимостей) строка «zod»: «^3.21.0» меняется на «zod»: «^4.0.0». Вы смотрите на список изменений в официальной документации Zod четвертой версии, понимаете, что там переписали работу с ошибками, и решаете отложить обновление на вечер. Вы нажимаете «Отмена». ИИ не трогает файл, но предлагает альтернативу — прописать временный костыль (обходное решение) под старую версию. Проект продолжает работать, вы контролируете технический долг.

Что сделать завтра за 10 минут

Откройте настройки вашего ИИ-редактора. Найдите раздел разрешений агента. Переключите запуск терминала, изменение системных файлов и установку пакетов в режим «Спрашивать каждый раз». Проверьте это на практике: попросите ИИ обновить любую мелкую библиотеку. Убедитесь, что он не нажал кнопку сам, а показал вам diff и ждет вашего «ок». Теперь вы оставили автопилот для написания кода и включили ручной тормоз для любых изменений, которые могут сломать проект.