AI 原生系统的可观测性，不能只回答“服务是否正常”，还必须回答“每次业务完成消耗了多少推理资源，以及这些成本是否产生了相应价值”。当大模型调用、智能体决策和工具执行成为业务链路的一部分，成本就不再是月底账单中的财务结果，而应成为架构设计、运行监控和容量治理的实时约束。
从资源监控转向单位业务成本
传统系统通常围绕延迟、吞吐、错误率和资源利用率建立监控体系。AI 原生系统仍需要这些指标，但还要把一次请求拆解为完整链路：业务场景、智能体任务、模型调用、工具调用、重试、降级和缓存命中。只有建立从业务请求到模型与工具执行的关联，才能判断成本究竟由哪个环节产生。
成本驱动的核心指标不是孤立的调用费用，而是“单位业务价值的推理成本”。例如，同样一次模型调用，若完成了高价值任务，其成本可能合理；若只是重复回答、无效重试或错误路由，成本就需要被治理。因此，可观测平台应同时展示业务结果、调用路径、质量表现与成本变化，而不是单独制作一张费用报表。
把成本控制前移到调用链
AI 网关是成本治理的关键边界。业务代码不直接绑定具体模型，而是通过网关统一执行多模型路由、分级调用、限流降级、Prompt 审计和成本核算。简单请求使用更低成本的处理路径，复杂任务再进入能力更强的模型，能够避免所有请求都采用最高规格的推理资源。
语义缓存适合处理高频且结果相对稳定的请求，但缓存不能被视为无条件优化。可观测性必须持续检查缓存命中后的业务质量、数据时效和异常回退，否则节省了调用成本，却可能引入错误结果。降级策略也应纳入演练范围，验证模型不可用、响应变慢或成本异常时，系统是否能够转向备用路径。
让观测数据支持架构决策
成本数据只有进入架构评审，才真正具备治理价值。评审时应同时比较不同模型路径的质量、延迟和成本，观察单个智能体任务是否存在重复调用，检查工具调用是否超出最小职责范围，并识别同步等待、失败重试和无效上下文带来的隐性消耗。
最终形成的不是“看账单”，而是可持续的成本反馈闭环：采集调用链路，按业务维度核算成本，结合质量和延迟分析异常，再通过路由、缓存、降级与模块边界调整系统。这样，可观测性才从运维记录升级为成本驱动的架构控制面。