实现 AI 可观测性：端到端追踪 LLM 调用

文章针对 LLM 应用在生产环境中难以定位慢请求或错误的问题，提出构建追踪层来填补“请求发生”与“模型做了什么、花了多少钱、延迟多少”之间的空白。建议追踪的维度包括首 token 时间与总完成时间、prompt/completion/缓存 token 用量、单次调用成本、模型与版本、输入输出采样以及限流、超时、内容策略拒绝等错误。

AI推荐理由 面向生产环境 LLM 应用的可观测性实践文章，明确列出应追踪的指标（TTFT、token 用量、单次调用成本、模型版本、输入输出采样、错误类型），并指出通用 APM 只能看到一次外部 HTTP 调用这一具体痛点，对开发者有直接参考价值；但正文片段未给出完整实现代码或实测数据。