人在回路（Human-in-the-loop）（2026.08.25）

概念编号：098

一句话理解

人在回路就是让 AI 负责辅助和执行，人保留关键授权、判断、验收和纠错权。

具体解释

人的参与可以发生在输入确认、计划批准、危险操作授权、结果审核、异常处理和模型评估等环节。参与点应根据风险设置，而不是所有任务都让人逐字检查。

边界与易混淆概念

• 人在回路不等于人必须盯住每一步：可以只审核高风险节点。
• 有人工按钮不等于有效监督：人要有足够信息、时间和实际否决权。
• 人工审核也可能出错：需要清晰标准、记录和反馈机制。

例子

Agent 可以自动整理资料，但发送邮件、修改正式文件或执行付款前必须让用户确认，属于人在回路。

相关概念

• AI护栏（Guardrails）（2026.08.25）
• AI隐私与安全（2026.08.25）
• Agent（智能体）（2026.08.18）

来源

• NIST AI Risk Management Framework
• Model Context Protocol Specification

概念卡更新日志

• 2026.08.25｜创建概念卡：依据 AI 风险治理、工具审批和 Agent 工作流，登记为 098。