Also known as: AI Bias or Machine Learning Bias or Algorithm Bias · Algorithmic bias · Bias (Algorithmic Bias) · bias (ethics/fairness)
Смещение — систематическая тенденция в данных, моделях, измерениях, проектных решениях или человеческих процессах, способная влиять на поведение или результаты ИИ-системы. В технических контекстах bias может означать предположения модели или паттерны ошибок; в контекстах управления и справедливости он часто связан с необоснованными различиями в обращении или воздействии на людей или группы. Смещение может возникать из обучающих данных, меток, контекста развертывания, петель обратной связи или человеческих решений и должно выявляться, измеряться и снижаться там, где оно создает риск или несправедливость.
Bias in AI models typically arises from two sources: the design of models themselves and the training data they use. Models can sometimes reflect the assumptions of the developers coding them, which causes them to favour certain outcomes. Additionally, AI bias can develop due to the data used to train the AI.
AI systems can have bias embedded in them, which can manifest through various pathways including biased training datasets or biased decisions made by humans in the design of algorithms. See PN 708 and PN 633 for further details.