Параллельное сравнение Action Space и Identity And Access Management Permissions. Разбирает, чем доступные агенту действия отличаются от средств контроля доступа, которые авторизуют действия над ресурсами.
Краткий вердикт: Используйте Action Space, чтобы описать, что агент может попытаться сделать; используйте IAM Permissions, чтобы определить, какие действия фактически разрешены и над какими ресурсами.
Action Space describes set of tools, operations, permissions, or moves available to an agent when performing a task.
Контекст: Наиболее уместен при проектировании, ограничении или проверке того, что AI-агенту разрешено делать в рабочем процессе.
Identity And Access Management Permissions describes granular access controls that define which principals may perform which actions on which resources.
Контекст: Наиболее уместны при обеспечении авторизации и least privilege для систем, агентов, инструментов и интеграций.
| Аспект | Action Space | Identity And Access Management Permissions |
|---|---|---|
| Риск или контроль | Action space описывает объём возможных операций, доступных агенту, и является важным источником операционного риска. | IAM permissions — это средства контроля, определяющие, какие субъекты могут выполнять какие действия над какими ресурсами. |
| Триггер | Возникает при определении инструментов агента, шагов процесса, операций и разрешённых действий. | Возникает при предоставлении доступа к данным, API, приложениям, сервисным аккаунтам или инфраструктурным ресурсам. |
| Ценность как меры снижения риска | Сокращение action space ограничивает то, что агент может попытаться выполнить, и снижает экспозицию ненужных возможностей. | Least-privilege IAM ограничивает то, что агент или сервисный аккаунт действительно может выполнить или к чему может получить доступ. |
| Необходимые доказательства | Доказательства включают инвентаризацию инструментов, списки разрешённых действий, границы рабочего процесса и обоснование задачи. | Доказательства включают назначения ролей, политики разрешений, проверки доступа, журналы и записи согласований. |
| Распространённая ошибка | Считать, что узкого prompt достаточно, оставляя доступными широкие инструменты. | Считать IAM-роли безопасными без сопоставления их с фактической задачей агента и его action space. |
На практике самый безопасный дизайн агента начинается с задачи, а затем выдаёт только то action space и те IAM-разрешения, которые нужны для этой задачи. Инструкции в prompt не заменяют контроль доступа.
Давать агенту широкие инструменты и полагаться только на инструкции в prompt.
Выдавать сервисному аккаунту разрешения, превышающие предполагаемое action space.
Не проверять унаследованные роли или скрытые пути доступа.
Не журналировать вызовы инструментов и действия, чувствительные к разрешениям.
Используйте Action Space, когда описываете диапазон инструментов, операций, разрешений или действий, доступных AI-агенту. Это центральный термин для проектирования агентов, анализа злоупотреблений и governance-проверки.
Используйте Identity And Access Management Permissions, когда описываете исполнимые правила доступа для пользователей, сервисных аккаунтов, приложений или агентов. Это центральный термин для внедрения least privilege и аудиторских доказательств.
Для доказательств по ISO 42001 и NIST AI RMF пространство действий агента следует сопоставлять с IAM-разрешениями, мониторингом и контролями человеческого одобрения. Такое сопоставление помогает доказать, что агент не может выйти за пределы авторизованной операционной границы.
Нет. Action space описывает, что агент может попытаться сделать в рамках своего workflow, а IAM permissions определяют, какие действия авторизованы на конкретных ресурсах.
Чем шире action space, тем больше способов, которыми агент может ошибиться, неправильно использовать инструменты или вызвать непредвиденные эффекты. Governance-команды должны ограничивать его задачей.
Сначала определить задачу, затем ограничить action space, выдать IAM-разрешения по принципу least privilege, добавить мониторинг и требовать человеческого одобрения для более рискованных действий.
No recently viewed comparisons yet.