智能体接管流程后哪些决策必须由人负责? - 软盟-软盟

智能体接管流程后哪些决策必须由人负责?

话题来源: 联想与人大联合发布AI原生组织转型指南:企业转型从工具应用转向流程数据重构

当智能体进入业务流程,关键问题不是“每一步是否都要人点确认”,而是哪些判断涉及目标、授权和责任。执行动作可以按明确规则委托;一旦需要权衡冲突目标、突破既定边界或承担后果,决策权就不应被默认交给智能体。

人必须保留的决策权

首先是目标与取舍。智能体可以依据既定目标优化流程,却不应自行决定企业更看重速度、成本、质量还是客户关系,也不应擅自改变这些目标之间的优先级。目标设定包含组织价值判断,必须由有权限的人作出,并明确哪些条件不能被效率指标覆盖。

其次是授权边界。企业需要由人确定智能体能读取什么信息、可以执行哪些动作、何时必须转交,以及哪些结果只能作为建议。边界不能只写成“处理常规任务”,还应对应可观察的流程节点和明确责任人;否则,出了偏差时,组织难以判断是流程设计、数据条件还是执行环节出了问题。

第三是异常与高后果情形的处置。信息缺失、相互矛盾,或任务超出预设规则时,智能体应能暂停并升级,而非为了完成流程自行补齐假设。涉及重大资源承诺、对外承诺或难以撤回的行动,也应按风险设置人工审核。审核重点不是重复机器的计算,而是确认依据是否充分、权限是否合适、后果是否可接受。

人的角色不是逐步审批

人类责任还包括决定何时调整、暂停或撤销智能体的流程权限,并在运行中重新评估其输出是否仍适用。随着智能体承担部分流程节点,业务专家和治理角色需要参与流程设计、异常处理与责任划分。联想公开的实践也显示,智能体进入流程的同时,组织角色会随之调整;这并不意味着责任可以转移给系统。

因此,适合自动化的通常是边界清楚、结果可检查、偏差可回退的执行任务;涉及价值取舍、授权例外和重大后果的判断,则应由人负责。交接设计得是否清楚,比单纯增加人工确认次数更重要。