Also known as: Prompt Injection and Jailbreak · Prompt Injection Jailbreak
Prompt injection или jailbreak означает состязательный ввод, предназначенный для обхода инструкций модели, политик безопасности или операционных контролей. Меры снижения риска включают фильтрацию входа, изоляцию retrieval, доступ к инструментам по принципу наименьших привилегий, enforcement политик и многоуровневые guardrails.
Adversarial inputs that subvert a model's instructions or controls. Mitigate with input filtering, retrieval isolation, guardrails and least-privilege design.