Automatisierungsbias ist die Tendenz menschlicher Entscheidungsträger, Empfehlungen automatisierter Systeme überzubewerten oder sich ihnen unterzuordnen, selbst wenn diese Empfehlungen unvollständig oder falsch sind. Er stellt ein Governance-Risiko dar, weil er menschliche Aufsicht schwächen und dazu führen kann, dass Fehler ohne ausreichende Prüfung akzeptiert werden.
When a human decision maker favors recommendations made by an automated decision-making system over information made without automation, even when the automated decision-making system makes errors. See Fairness: Types of bias in Machine Learning Crash Course for more information.
The tendency to over-rely on automated systems, often ignoring contradictory information or failing to monitor system output critically.