Also known as: Prompt Injection and Jailbreak · Prompt Injection Jailbreak
Prompt injection o jailbreak se refiere a una entrada adversarial destinada a eludir instrucciones, políticas de seguridad o controles operativos de un modelo. Las mitigaciones incluyen filtrado de entradas, aislamiento de recuperación, acceso a herramientas con privilegios mínimos, aplicación de políticas y guardrails por capas.
Adversarial inputs that subvert a model's instructions or controls. Mitigate with input filtering, retrieval isolation, guardrails and least-privilege design.