Also known as: Prompt Injection and Jailbreak · Prompt Injection Jailbreak
Prompt injection ou jailbreak désigne une entrée adversariale destinée à contourner les instructions, politiques de sécurité ou contrôles opérationnels d’un modèle. Les mesures d’atténuation incluent le filtrage des entrées, l’isolation de la récupération, l’accès aux outils selon le moindre privilège, l’application des politiques et des guardrails en couches.
Adversarial inputs that subvert a model's instructions or controls. Mitigate with input filtering, retrieval isolation, guardrails and least-privilege design.