人工监督

它是什么

人工监督是由职责明确、具备权限和必要信息的人员，持续或按计划监测 AI 系统，并在需要时质疑、推翻、暂停或停用它的组织控制安排。它比某一次人在回路审批更宽，关注谁在系统整个生命周期内拥有监督责任和干预能力。[S1][S2]

为什么需要它

单次输出正确不代表系统长期可靠。数据分布、用户行为、模型版本和业务流程都会变化，局部错误也可能累积成系统性影响。人工监督把监测指标、异常审查、申诉、事故响应和停用权连接起来，使组织能够发现偏差、挑战自动决定，并在风险超出预期时真正采取行动。

它如何工作

组织先按用途、受影响人群和错误后果确定监督强度，再明确监督者、业务负责人和技术负责人的职责。监督方案规定他们能看到哪些指标与案例、多久复核一次、什么阈值触发调查，以及谁能覆盖决定、限制功能或停用系统。所有干预、申诉和事故都要记录，并用结果验证监督是否及时发现和降低了风险。[S1][S2]

必须澄清的误会

人工监督 ≠ 人在回路。 人在回路是流程里预先设好的介入点，人工监督是持续看着系统、能随时叫停的治理安排；前者是节点，后者是职责。

人工监督 ≠ 人工升级处理。 升级是「什么时候该找人、怎么把事交出去」的机制，监督是「谁在看、谁有权停」的安排；只有升级没有监督，叫停了也没人负责。

监督不等于有人签字。 只有签批环节、没有可读的上下文和有效的停止权，签字就退化成背责：没人有能力判断，却有人承担后果。

真实例子

贷款材料预审系统只负责标出缺失文件，不直接决定授信。合规负责人每周按地区和申请人群抽查误报与漏报，客服将申诉案例进入同一审查队列；若某一群体的漏报超过阈值，负责人有权暂停自动提示并要求回退到人工检查。系统记录触发原因、影响范围、处置人和恢复条件，而不是只在季度报告中写“有人监督”。

什么时候适合与不适合

影响权利、安全、财务或大规模用户的系统，通常需要更强监督；低风险、可撤销的小功能可以采用抽样复核。监督并非越多人越好：职责重叠会让问题无人负责，告警过多会造成疲劳。人员在场也不能自动保证安全，缺少权限、时间、训练或上下文时，监督只是名义安排；监督者自身同样可能带入偏差。[S2]

亲自试一下

为一个 AI 系统写一页监督表：列出三类风险、对应指标、复核频率、监督角色、可执行动作、停用阈值和恢复条件。再模拟一次严重异常，要求监督者在 15 分钟内找到证据并完成处置。若他只能上报却不能阻止继续运行，或没有人负责决定恢复，监督设计还不完整。

接下来学什么

先学习AI 风险管理建立完整治理循环，再用人在回路设计具体审批点；异常发生时学习人工升级处理完成事件交接，并用问责明确最终责任。

来源与修订

人机角色、监督流程、申诉覆盖、事故响应以及停用责任参考 NIST AI RMF Core [S1]；不同自动化配置、人员责任与人员偏差边界参考 NIST AI RMF 人机交互附录 [S2]。具体法定义务、岗位权限、阈值和记录要求会因行业、司法辖区与用途变化，实施前必须复核。