Der Nutzer möchte Data Poisoning im Kontext von LLM-Sicherheit verstehen und auf praktische KI-Governance- oder Compliance-Arbeit anwenden.
Data Poisoning ist ein adversarialer Angriff, bei dem ein böswilliger Akteur in die Daten oder den Trainingsprozess eingreift, die zum Aufbau eines Modells verwendet werden. Durch Einfügen, Verändern oder Verfälschen von Trainingsbeispielen versucht der Angreifer, Modellverhalten zu manipulieren, Leistung zu verschlechtern oder gezielte Fehler zu erzeugen.
Inhalte in Bearbeitung
Diese Antwort wird derzeit verfasst. Bitte schauen Sie bald wieder vorbei.