Human-in-the-Loop 模式的优缺点及工程实践

HITL 分三种模式（全审批、异常审批、事后审查），核心挑战是审批疲劳——决策疲劳、自动化偏差和注意力衰减导致人类审批质量随时间退化。改进方向包括智能审批路由（基于风险分级动态决定是否审批）、批量审批和渐进式信任。

一、HITL 三种模式

(1) 全审批模式：Agent 每个动作都需要人类确认。最安全但最慢，审批疲劳最严重。适用于高风险场景（金融交易、医疗决策）。(2) 异常审批模式：Agent 自主执行，仅在异常情况（低置信度、高风险、规则冲突）时请求人类审批。平衡效率与安全，但需要精心设计异常检测规则。(3) 事后审查模式：Agent 完全自主执行，人类事后审查执行日志。最快但风险最高，适用于低风险、可回滚的场景。

二、审批疲劳的心理学基础

审批疲劳不是简单的"懒惰"，而是有深刻心理学基础：(1) 决策疲劳——连续做出多个审批决策后，决策质量显著下降。研究表明法官在午饭后批准假释的概率显著高于午饭前。(2) 自动化偏差——当 Agent 过去 100 次请求都合理时，人类倾向于自动批准第 101 次——即使它可能是错误的。(3) 注意力衰减——重复性审批任务导致注意力持续下降，20 分钟后对"异常"的检测能力显著降低。

三、改进方向

(1) 智能审批路由：基于风险分级（可逆性 × 影响面 × 置信度）动态决定是否需要审批。低风险操作自动放行，高风险操作强制审批。(2) 批量审批：将多个待审批操作聚合为一批，人类一次性审查。减少上下文切换成本。(3) 渐进式信任：Agent 在特定任务域积累足够的成功记录后，逐步降低审批频率。(4) 摘要式审批：不展示原始操作细节，而是生成结构化摘要（变更了什么、影响范围、风险评估）。降低认知负担。

四、替代方案

除改进 HITL 外，还可考虑：AI 审查 AI（用另一个 Agent 审查主 Agent 输出）、基于规则的护栏（预定义安全边界，超出边界自动拦截）、事后审计（完整记录所有操作，定期审查）、渐进式自主（从全审批开始，逐步降低审批频率）。

五、实践建议

设计 HITL 系统的关键原则：(1) 尊重人类注意力——审批请求应简洁、结构化、可快速决策（不超过 30 秒阅读）。(2) 控制审批频率——每人每天不超过 20 次审批请求。(3) 提供上下文——每次审批必须包含足够上下文（Agent 为什么这么做、风险评估、替代方案）。(4) 支持批量操作——允许一次性批准多个低风险操作。(5) 记录和学习——审批记录应用于优化 Agent 行为。