← Все руководства

Как выдать агенту права на инструменты без хаоса

Шаги

1. Шаг 1: Определите задачи агента и зафиксируйте, какие действия ему действительно нужны для каждой из них.

2. Шаг 2: Выдайте агенту только минимальный набор разрешений, необходимый для выполнения этих задач, и запретите всё остальное по умолчанию.

3. Шаг 3: Составьте белый список инструментов, адресов, операций и типов данных, к которым агент может обращаться.

4. Шаг 4: Разделите доступы по средам и ролям: используйте отдельные учётные записи для разработки, проверки и рабочей среды.

5. Шаг 5: Храните секреты в защищённом хранилище, передавайте агенту только временные учётные данные и не помещайте ключи в инструкции, журналы или исходный код.

6. Шаг 6: Добавьте подтверждение человека для необратимых действий, массовых изменений, отправки данных наружу и операций с правами доступа.

7. Шаг 7: Настройте журналирование вызовов инструментов и аварийное отключение, затем регулярно проверяйте записи и отзывайте неиспользуемые разрешения.

Чеклист

• Определены задачи агента и допустимые результаты каждой операции.
• Для каждого инструмента указан минимальный набор разрешённых действий.
• Белый список ресурсов и адресов ограничивает внешние обращения.
• Секреты не хранятся в коде, промптах, журналах и сообщениях.
• Опасные и необратимые действия требуют подтверждения человека.
• Включены журналирование, оповещения и быстрое аварийное отключение.
• Неиспользуемые разрешения и учётные данные регулярно отзываются.

Типичные ошибки

• Выдавать агенту права администратора ради удобства настройки.
• Разрешать доступ ко всей сети или ко всем файлам вместо конкретного списка ресурсов.
• Передавать постоянные ключи без срока действия и ограничения области применения.
• Считать успешное выполнение задачи доказательством безопасной работы агента.
• Не проверять журналы вызовов инструментов и не тестировать аварийное отключение.
• Оставлять старые разрешения после изменения задач или архитектуры агента.