制造业Agent如何划定自动化边界? - 软盟-软盟

制造业Agent如何划定自动化边界?

话题来源: 制造企业本地化AI Agent部署方案:涉密数据不出厂前提下的软硬一体选型

制造业讨论 Agent 落地时,争论往往集中在模型能力上,但真正决定项目成败的是另一个更朴素的问题:这一步到底该不该让它自己动手。自动化边界划不清,再强的推理能力也会在第一次误操作后失去业务部门的信任。

边界应由后果的可逆性决定

一个实用的判断顺序是:先看动作后果能否撤回,再看判断是否具备确定性依据,最后才看模型表现。查询设备状态、汇总报警记录、生成交接班报告,这类只读或纯生成的动作出错代价低,可以自动执行,只需留下日志。调整工艺参数、修改排程、创建工单则不同,它们的后果会传导到产线和交付,一旦出错难以快速回滚,就必须有人确认。

这条线不应该由技术团队单方面划定。质量、工艺、设备维护各自的风险容忍度不同,边界需要业务方共同签字,否则上线后每一次报警都会被要求人工复核,效率收益会被抵消。

确定性判断不要交给模型

制造场景中有一类判断本来就有明确规则:超限报警、配方比对、质量判定的硬性阈值。这类逻辑应由规则引擎或专业算法承担,模型负责理解上下文、检索历史案例、归纳可能原因并用自然语言解释。让大模型直接输出“是否合格”或“是否停机”,等于把可验证的确定性判断变成概率输出,既难审计,也难以在争议时自证。

智能体真正有价值的位置在于串联:把分散在设备日志、业务系统、工艺文档中的信息整合成一条带证据的线索,再交给人决策。模型的角色是分析助手,不是执行主体。

执行边界要和权限、审计绑在一起

边界写进制度只是第一步,落地靠的是权限设计。涉及外部系统调用的工具,应使用最小权限账号,限定可访问的数据范围和可执行的动作类型,并为每次调用设定输入校验和失败处理。同时,调用记录、模型输入输出、引用资料都要留痕,否则出现错误建议时无法判断是数据问题、知识库版本问题还是推理偏差。

还有一层容易被忽略:数据流向也是自动化边界的一部分。只要智能体调用了外部接口或远程服务,日志和参数就可能把厂区数据带出去。哪些组件必须留在内网、哪些运维动作需要审批,应与动作分级同步确定。

边界要能复制到不同厂区

多厂区推广时,可复制的应是流程骨架:动作分级规则、审批链、权限模型、日志格式和验收标准。需要本地化的是设备协议、产线编码、工艺知识和现场运维责任。把这两部分分开管理,边界才不会在每次复制时被重新解释一遍。

边界划得越具体,安全审查越容易通过,出错时也越容易定位责任。对制造业而言,Agent 的可信度不来自它能做多少事,而来自哪些事它明确不做。