Empoisonnement des données

Also known as: Poisoning

Caesar AI Atlas Definition

L’empoisonnement des données est une attaque adversariale dans laquelle un acteur malveillant interfère avec les données ou le processus d’entraînement utilisés pour construire un modèle. En insérant, modifiant ou corrompant des exemples d’entraînement, l’attaquant cherche à manipuler le comportement du modèle, à dégrader sa performance ou à créer des défaillances ciblées.

Other Definitions

Empoisonnement des données Source

A type of cyberattack in which a malicious actor intentionally compromises a training dataset used by an AI model to influence or manipulate the operation of that model.

Empoisonnement des données Source

‘Adversarial attacks in which an adversary interferes with a model during its training stage, such as by inserting malicious training data (data poisoning) or modifying the training process itself (model poisoning).’

Concept Comparisons

Attack / FailureLlm Security

Prompt Injection vs Data Poisoning

A side-by-side comparison of Prompt Injection and Data Poisoning. Understand how runtime instruction manipulation differs from attacks on training data or the training process.