Also known as: human in the loop (HITL) · HITL · Human in the Loop
HITL, или human-in-the-loop, — подход, при котором люди остаются вовлеченными в формирование, проверку, утверждение или улучшение выходов либо решений ИИ-системы. Он используется для сочетания эффективности машины с человеческим суждением, особенно в более рискованных или контекстно чувствительных задачах. HITL может включать надзор, обратную связь, валидацию, эскалацию или действия по обучению модели.
Human in the loop refers to the involvement of human oversight and decision-making in the processes that involve AI and automated systems. This approach allows for critical decisions, especially those impacting individuals, to be reviewed, verified, and influenced by human judgement and expertise.
A loosely-defined idiom that could mean either of the following: - A policy of viewing generative AI output critically or skeptically. - A strategy or system for ensuring that people help shape, evaluate, and refine a model's behavior. Keeping a human in the loop enables an AI to benefit from both machine intelligence and human intelligence. For example, a system in which an AI generates code which software engineers then review is a human-in-the-loop system.