Also known as: AI Bias or Machine Learning Bias or Algorithm Bias · Algorithmic bias · Bias (Algorithmic Bias) · bias (ethics/fairness)
El sesgo es una tendencia sistemática en datos, modelos, mediciones, decisiones de diseño o procesos humanos que puede afectar el comportamiento o los resultados de un sistema de IA. En contextos técnicos, el sesgo puede referirse a supuestos del modelo o patrones de error; en contextos de gobernanza y equidad, suele referirse a diferencias injustificadas de trato o impacto entre personas o grupos. El sesgo puede surgir de datos de entrenamiento, etiquetas, contexto de despliegue, bucles de retroalimentación o decisiones humanas y debe identificarse, medirse y mitigarse cuando crea riesgo o injusticia.
Bias in AI models typically arises from two sources: the design of models themselves and the training data they use. Models can sometimes reflect the assumptions of the developers coding them, which causes them to favour certain outcomes. Additionally, AI bias can develop due to the data used to train the AI.
AI systems can have bias embedded in them, which can manifest through various pathways including biased training datasets or biased decisions made by humans in the design of algorithms. See PN 708 and PN 633 for further details.