Also known as: AI Bias or Machine Learning Bias or Algorithm Bias · Algorithmic bias · Bias (Algorithmic Bias) · bias (ethics/fairness)
Bias ist eine systematische Tendenz in Daten, Modellen, Messungen, Designentscheidungen oder menschlichen Prozessen, die das Verhalten oder die Ergebnisse eines KI-Systems beeinflussen kann. In technischen Kontexten kann Bias Modellannahmen oder Fehlermuster bezeichnen; in Governance- und Fairness-Kontexten betrifft er häufig ungerechtfertigte Unterschiede in Behandlung oder Wirkung zwischen Personen oder Gruppen. Bias kann aus Trainingsdaten, Labels, Einsatzkontext, Feedbackschleifen oder menschlichen Entscheidungen entstehen und sollte identifiziert, gemessen und gemindert werden, wenn er Risiken oder Unfairness erzeugt.
Bias in AI models typically arises from two sources: the design of models themselves and the training data they use. Models can sometimes reflect the assumptions of the developers coding them, which causes them to favour certain outcomes. Additionally, AI bias can develop due to the data used to train the AI.
AI systems can have bias embedded in them, which can manifest through various pathways including biased training datasets or biased decisions made by humans in the design of algorithms. See PN 708 and PN 633 for further details.