工业智能体的安全边界,不是给模型增加一个“禁止回答”的提示,而是明确它能看什么、能判断什么、能调用什么,以及在什么条件下必须停止。工业生产涉及设备、工艺、质量、供应链和安全生产,智能体一旦从信息检索进入排产调整、设备控制或质量处置,风险就从“回答错误”升级为业务中断、质量损失甚至现场安全风险。
先划清三类权限
第一类是信息权限。智能体只能访问与任务相关的数据,且应区分产品、订单、工艺、设备状态和客户信息等数据的使用边界。跨部门、跨企业协同场景还要明确谁可以查看、调用和共享数据,不能因为模型具备统一入口,就默认获得全部生产经营信息。
第二类是决策权限。排产建议、质量预警、故障判断等结果,应能够说明依据了哪些数据,并支持人工复核和责任追溯。涉及关键质量控制和安全生产的任务,智能体更适合作为辅助决策者,而不应直接替代人工责任。对不完整、冲突或超出知识范围的数据,系统应降低自动化程度,而不是强行生成确定结论。
第三类是执行权限。智能体调用业务系统、修改任务状态或触发流程时,必须设置明确的工具权限、操作审计和异常中止机制。高风险动作应采用分级授权,先输出建议,再由授权人员确认;当数据异常、规则冲突或系统状态不可确认时,应暂停执行并转交人工。
安全不是部署后的补丁
工业模型的安全治理应前置到数据和流程阶段。企业需要治理训练语料和知识库,纠正错误内容,标识生成内容,并检查数据来源、更新时间和责任部门。若质量数据无法关联具体批次,设备数据不能反映实际状态,智能体的“智能”只会放大原有流程缺陷。
更稳妥的路径是先选择边界清晰、可人工复核的单一场景,建立“数据输入—模型分析—人工确认—业务执行—结果反馈”的闭环,再逐步扩展到多智能体协作、数字孪生和供应链协同。验收时不能只看模型效果,还要检查权限控制、解释能力、审计记录、异常恢复和中止机制。
真正可靠的工业智能体,不是能够自主完成最多任务的系统,而是在每个关键节点都清楚知道何时可以行动、何时必须询问、何时必须停止。安全边界越明确,智能化应用才越可能从演示能力转化为可持续的生产能力。
