制造业AI要实现可审计，关键不在于模型回答得多快，而在于每一次输出能否还原“依据什么数据、经过什么规则、由谁确认、产生什么结果”。如果管理层询问订单毛利、交付风险或呆滞料预警，系统不能只给出一个结论，还应同步说明数据时间、统计口径、来源系统、计算过程及关联的订单、BOM版本或库存批次。
先建立可追溯的证据链
可审计的AI应用，至少要把业务输入、模型处理、人工操作和最终执行串成闭环。输入数据应明确来自ERP、PLM、MES、WMS、SRM还是其他业务系统，并保留数据版本、更新时间和质量检查结果；模型侧要记录模型版本、提示词或规则版本，以及调用时使用的知识库内容；输出侧则要保存建议、置信依据、人工修改、审批意见和执行结果。
这套机制尤其适用于经营问数、预算偏差解释、合同条款提取和库存风险预警。例如，系统提示某批物料可能形成呆滞，不能只显示风险等级，还应指出需求预测、订单消耗、替代料关系、工程变更和供应周期分别如何影响判断。业务人员若否决建议，也应留下原因，形成可复盘的责任链。
把审计边界嵌入流程
AI可以识别异常、生成分析草稿和推荐处置方案，但不应绕过权限、审批和业务责任人，直接修改财务口径、调整预算、发布经营结论，或在未经确认的情况下报废物料、下达生产任务。涉及重大金额、法律效力、质量放行和安全约束的场景，必须保留人工复核。
因此，项目验收不能只看模型准确率或是否上线，而要检查建议采纳率、异常闭环率、人工复核率、误报率，以及输出是否真正进入订单、采购、生产、质量和财务流程。与此同时，还需落实最小权限、分级授权、敏感数据脱敏、操作留痕和定期审计，并明确谁提供数据、谁校验结果、谁处理失败记录。
当每个AI结论都能回到业务数据、规则版本和责任节点，企业才能区分“模型说了什么”与“企业据此做了什么”。这正是制造业AI从演示工具转变为可控、可复盘经营能力的分界线。