IBM近期在《The context crisis: Why enterprise AI agents fail in a changing world》中指出,企业智能体要可靠运行,不能只依赖模型能力,还需要掌握其行动所处集成环境的最新、相关且可解释的信息。对企业而言,关键风险是业务规则或系统状态已经变化,智能体仍依据过时上下文正确执行了旧流程,最终造成业务错误。解决这一问题,需要把上下文治理纳入生产运行机制,而不是把试点验收视为部署终点。
问题不只是模型判断
在传统软件中,部署后的行为通常由相对明确的代码和配置决定。企业AI智能体则需要结合指令、业务资料和运行环境采取行动。IBM的分析强调,企业环境持续变化,智能体所依赖的信息也必须随之更新;它需要的是对集成环境当前状态的有效视图,而不是一份静态、越多越好的资料集合。
这也是“上下文漂移”的业务含义:业务事实已经改变,智能体可见的信息却没有同步。比如流程规则调整后,知识库仍保留旧说明;系统迁移后,工单中的接口信息和代码仓库中的实现状态不同步;运行时遥测显示某项服务状态变化,但智能体使用的流程资料尚未反映这一点。此时,智能体可能严格遵守已有指令,却做出不符合当前业务要求的操作。
这些场景说明了风险如何产生,并不意味着所有企业都会以相同方式发生故障。具体影响取决于智能体连接了哪些系统、能够执行哪些动作,以及业务变更如何发布和记录。
上下文分散,变更容易脱节
企业上下文往往分布在不同工作环节:工单记录问题与变更请求,知识库描述业务流程和操作规范,代码仓库反映系统实现,运行时遥测呈现服务实际状态。各类信息的维护责任、更新节奏和表达方式并不相同。
因此,仅仅把更多文档接入智能体,并不能自动保证它掌握的是最新事实。企业还需要判断哪些信息与当前任务相关、何时失效、来源是否可信,以及不同来源出现冲突时应以什么为准。IBM所强调的“当前、选择性、可解释”,对应的正是这类治理要求:上下文不仅要新,还要经过筛选,并能够说明依据来自哪里。
从试点走向生产要补齐的机制
企业可以从四类运行机制着手,逐步把业务变化与智能体可用上下文连接起来:
- 建立信息同步路径。 为工单、知识库、代码仓库和运行时数据指定责任人、权威来源与更新流程。关键业务事实发生变化时,应明确哪些资料和智能体任务需要同步更新,避免依赖人工记忆逐项通知。
- 让变更能够被感知。 将系统迁移、规则调整和流程发布等变更纳入可追踪记录,并评估其影响范围。变更本身不必都触发智能体行为调整,但应能识别哪些上下文因此需要复核或重新验证。
- 盘点智能体与资产的依赖关系。 记录每个智能体连接的系统、使用的资料、可执行的操作及其对应流程。这样在接口、规则或服务状态改变时,团队才能判断哪些智能体可能受影响,而不是等到业务异常后再逐一排查。
- 保留运行审计与人工介入能力。 对重要操作记录所依据的上下文版本、信息来源、执行结果和人工审批情况。对于高影响或无法确认上下文有效性的操作,应设置暂停、复核或转交人工处理的路径。
这些机制的价值不在于追求所有信息实时同步,而在于让变化可见、依赖可查、操作可追溯。对于高风险业务,企业还应明确哪些操作允许自动执行,哪些必须经过人工确认。
把可靠性纳入上线后的运营
企业评估智能体时,除了检查任务是否能够完成,还应验证业务事实变化后能否正确响应。例如,规则更新后是否会触发相关资料复核;系统迁移后,依赖旧接口的智能体能否被识别;运行时状态与知识库说明不一致时,系统是否会暴露冲突并限制高风险操作。
这类检查把关注点从“智能体是否聪明”转向“它是否掌握最新业务事实”。对于企业管理者和项目团队,生产准备度不仅是功能清单,也是持续维护上下文的责任安排:谁确认变更、谁更新资料、谁评估受影响资产,以及谁审查运行记录。
IBM提出的观点指向一个明确的运营问题:智能体进入生产环境后,企业需要持续管理它赖以行动的上下文。把信息同步、变更感知、资产识别和运行审计纳入日常流程,才能降低“正确执行、业务错误”的风险;具体机制则应根据业务影响和自动化权限分级设计。













