Also known as: Prompt Injection and Jailbreak · Prompt Injection Jailbreak
Prompt Injection oder Jailbreak bezeichnet adversarische Eingaben, die darauf abzielen, Anweisungen, Sicherheitsrichtlinien oder operative Kontrollen eines Modells zu umgehen. Gegenmaßnahmen umfassen Eingabefilterung, Retrieval-Isolation, Werkzeugzugriff nach dem Least-Privilege-Prinzip, Richtliniendurchsetzung und mehrschichtige Guardrails.
Adversarial inputs that subvert a model's instructions or controls. Mitigate with input filtering, retrieval isolation, guardrails and least-privilege design.