Смещение автоматизации — склонность людей, принимающих решения, переоценивать рекомендации автоматизированных систем или полагаться на них, даже когда эти рекомендации неполны или ошибочны. Это риск управления, поскольку он может ослаблять человеческий надзор и приводить к принятию ошибок без достаточной проверки.
When a human decision maker favors recommendations made by an automated decision-making system over information made without automation, even when the automated decision-making system makes errors. See Fairness: Types of bias in Machine Learning Crash Course for more information.
The tendency to over-rely on automated systems, often ignoring contradictory information or failing to monitor system output critically.