人在回路常被当成一个开关:要么智能体全自动执行,要么在流程末端塞一道人工确认。这种二元设计在演示环境里看不出问题,接入生产后却会同时暴露两种失效——低风险任务被人工卡点拖慢,失去自动化本该带来的效率;高风险任务则因为审批人只看一眼就放行,卡点沦为一层薄壳。问题不在“有没有人”,而在“人介入的深度随什么变化”。
监督成本与业务风险并不对称
人工审批是有代价的:注意力、时延,以及重复确认带来的判断钝化。当一个人每天要签几十条同类指令,他的确认动作很快会退化为机械点击,这道屏障名义上存在,实际上已经失效。而风险在生产流程中的分布极不均匀——生成一份内部报表初稿与下发一条付款指令,后果量级完全不同。分级设计的实质,是把手工作为稀缺资源,按风险的量级来分配,而不是均匀铺满整条链路。
分级的调整依据是风险等级与可逆性
可逆性往往比单纯的风险高低更能决定介入方式。可撤销的操作即使出错,仍有纠正窗口;不可撤销的动作一旦发出,就没有回滚余地。据此,低风险的只读或辅助类任务可以自动化执行、辅以异步抽检;中风险且结果可撤销的操作,采用人工确认后执行;涉及资金、合规与核心数据的动作,则必须设置强门禁拦截与多级人工复核。验收时要看的不是机制是否存在,而是它能否动态配置——业务风险会随流程调整而漂移,写死的卡点很快会与新场景错位。
交互分级必须配套责任分级
流程上分了层,责任若不跟着分层,分级就会变成推诿的入口。经过人工确认的指令,责任应由审核人承担;低风险自动放行的任务,则需明确其业务运营归口团队。技术团队、安全合规与业务线在智能体生命周期内的权责交接也要提前理顺,否则很容易出现技术侧说业务不会用、业务侧说技术不准用的治理真空。
分级之所以必要,是因为它承认了一个事实:人工监督的强度不能靠统一标准一刀切,而应作为一项可调节的资源,精确投放在后果最难以挽回的节点上。判断一个“人在回路”设计是否成立,不妨反过来问一句:如果把所有卡点全部撤销,哪些动作会立刻变得不可接受?这些动作对应的层级,才是人工真正该待的地方。
