Also known as: AI Bias or Machine Learning Bias or Algorithm Bias · Algorithmic bias · Bias (Algorithmic Bias) · bias (ethics/fairness)
Le biais est une tendance systématique dans les données, modèles, mesures, choix de conception ou processus humains qui peut affecter le comportement ou les résultats d’un système d’IA. Dans les contextes techniques, le biais peut désigner des hypothèses de modèle ou des schémas d’erreur ; dans les contextes de gouvernance et d’équité, il concerne souvent des différences injustifiées de traitement ou d’impact entre personnes ou groupes. Le biais peut provenir des données d’entraînement, des étiquettes, du contexte de déploiement, des boucles de rétroaction ou des décisions humaines, et doit être identifié, mesuré et atténué lorsqu’il crée un risque ou une injustice.
Bias allows AI systems to determine how to treat different situations accordingly, and is therefore fundamental to its adaptive capacity when minimised and justified (so as to avoid unfairness).
Bias in AI models typically arises from two sources: the design of models themselves and the training data they use. Models can sometimes reflect the assumptions of the developers coding them, which causes them to favour certain outcomes. Additionally, AI bias can develop due to the data used to train the AI.
AI systems can have bias embedded in them, which can manifest through various pathways including biased training datasets or biased decisions made by humans in the design of algorithms. See PN 708 and PN 633 for further details.