Параллельное сравнение Attack Surface и Action Space. Разбирает, чем exposure системы к abuse отличается от набора действий, доступных AI-агенту.
Краткий вердикт: Используйте Attack Surface для точек, которые может exploit attacker; используйте Action Space для tools, permissions и operations, которыми может пользоваться агент.
Attack Surface describes set of points through which an unauthorized or malicious actor could access, manipulate, disrupt, or extract data from a system.
Контекст: Наиболее уместна для security reviews, threat modeling и incident preparedness.
Action Space describes set of tools, operations, permissions, or moves available to an agent when performing a task.
Контекст: Наиболее уместен для проектирования agent permissions, tool access и operational guardrails.
| Аспект | Attack Surface | Action Space |
|---|---|---|
| Threat model | Attack surface спрашивает, где unauthorized или malicious actor может получить доступ, изменить, нарушить работу или извлечь data. | Action space спрашивает, какие tools, operations, permissions или moves агент может использовать при выполнении задачи. |
| Attack path | Attack paths часто проходят через exposed interfaces, compromised credentials, plugins, data pipelines или infrastructure. | Risky action paths возникают, когда агент может вызывать tools, менять records или запускать external actions сверх потребности задачи. |
| Impact | Большая attack surface увеличивает возможности compromise, disruption или data extraction. | Слишком широкое action space увеличивает последствия agent error, misuse, prompt injection или poor planning. |
| Controls | Controls включают hardening endpoints, dependency review, credential protection, access controls и monitoring. | Controls включают least privilege, tool allowlists, approval gates, rate limits и action logging. |
| Detection evidence | Evidence включает security logs, endpoint monitoring, vulnerability scans и incident traces. | Evidence включает tool-call logs, permission records, action traces и exception handling data. |
На практике action space часто является частью attack surface: каждое новое разрешение, выданное агенту, может стать новым путём abuse или failure.
Давать агенту широкий tool access без обновления threat model.
Считать action-space design только product feature, а не security control.
Игнорировать plugins и data pipelines при mapping attack surface.
Не собирать logs, показывающие, какие actions были available и used.
Используйте Attack Surface, когда оцениваете, как система может быть атакована или misuse извне либо через exposed components. Это правильный термин для threat modeling, security architecture и vulnerability management.
Используйте Action Space, когда проектируете или проверяете, что AI-агенту разрешено делать. Это особенно важно для agentic systems, использующих tools, APIs, workflows или external permissions.
Контроли NIST AI RMF и ISO/IEC 42001 должны связывать attack-surface analysis с action-space restrictions, особенно для agentic AI systems с tool use или external system access.
Часто да. Если агент может использовать tools или permissions, эти capabilities могут стать exploitable paths при manipulation или compromise системы.
Ограничьте action space тем, что требуется задаче, добавьте approvals для high-impact actions и мониторьте tool use. Затем оцените окружающую attack surface для exposed interfaces и dependencies.
Attack Surface принадлежит core threat model. Action Space следует включать, когда AI-система может выбирать tools, выполнять operations или взаимодействовать с external systems.
No recently viewed comparisons yet.