制造业讨论 Agent 落地时,争论往往集中在模型能力上,但真正决定项目成败的是另一个更朴素的问题:这一步到底该不该让它自己动手。自动化边界划不清,再强的推理能力也会在第一次误操作后失去业务部门的信任。
边界应由后果的可逆性决定
一个实用的判断顺序是:先看动作后果能否撤回,再看判断是否具备确定性依据,最后才看模型表现。查询设备状态、汇总报警记录、生成交接班报告,这类只读或纯生成的动作出错代价低,可以自动执行,只需留下日志。调整工艺参数、修改排程、创建工单则不同,它们的后果会传导到产线和交付,一旦出错难以快速回滚,就必须有人确认。
这条线不应该由技术团队单方面划定。质量、工艺、设备维护各自的风险容忍度不同,边界需要业务方共同签字,否则上线后每一次报警都会被要求人工复核,效率收益会被抵消。
确定性判断不要交给模型
制造场景中有一类判断本来就有明确规则:超限报警、配方比对、质量判定的硬性阈值。这类逻辑应由规则引擎或专业算法承担,模型负责理解上下文、检索历史案例、归纳可能原因并用自然语言解释。让大模型直接输出“是否合格”或“是否停机”,等于把可验证的确定性判断变成概率输出,既难审计,也难以在争议时自证。
智能体真正有价值的位置在于串联:把分散在设备日志、业务系统、工艺文档中的信息整合成一条带证据的线索,再交给人决策。模型的角色是分析助手,不是执行主体。
执行边界要和权限、审计绑在一起
边界写进制度只是第一步,落地靠的是权限设计。涉及外部系统调用的工具,应使用最小权限账号,限定可访问的数据范围和可执行的动作类型,并为每次调用设定输入校验和失败处理。同时,调用记录、模型输入输出、引用资料都要留痕,否则出现错误建议时无法判断是数据问题、知识库版本问题还是推理偏差。
还有一层容易被忽略:数据流向也是自动化边界的一部分。只要智能体调用了外部接口或远程服务,日志和参数就可能把厂区数据带出去。哪些组件必须留在内网、哪些运维动作需要审批,应与动作分级同步确定。
边界要能复制到不同厂区
多厂区推广时,可复制的应是流程骨架:动作分级规则、审批链、权限模型、日志格式和验收标准。需要本地化的是设备协议、产线编码、工艺知识和现场运维责任。把这两部分分开管理,边界才不会在每次复制时被重新解释一遍。
边界划得越具体,安全审查越容易通过,出错时也越容易定位责任。对制造业而言,Agent 的可信度不来自它能做多少事,而来自哪些事它明确不做。
