最新资讯
dev.to 银行 77 意图分类最便宜 LLM:GPT-6.1 Terra 每次成功任务 $0.000727 theinformation.com Chesky的副业:Airbnb向CEO新设AI实验室出售IP theverge.com OpenAI 宣布数据中心项目不再与公职人员签署保密协议 dev.to NVIDIA 发布四个开放 Cosmos 3 仿真模型 dev.to 真实 MCP 客户端击穿我们服务器的五种方式 theverge.com Airbnb 正在开发 AI 旅行 agent,计划 2027 年上半年推出 wechat 这可能是美国AI最魔幻的一天。 nytimes.com 美众议院共和党领袖要求 Nvidia 黄仁勋闭门简报 pub.towardsai.net 忘掉我:为记忆而设计的系统中的删除难题 marktechpost.com Google 发布 Gemini Omni 1.2 Flash:15 秒视频,每秒 0.07 美元 unite.ai Airbnb 计划推出覆盖规划、预订与客服的 AI 旅行 agent techcrunch.com Airbnb 称将于 2027 年上半年推出 AI 旅行代理
多元动态
登录 注册
大模型 dev.to · @jidonglab

Claude 提示缓存 1412 次调用零命中:一个时间戳导致失效

原文 我的收藏

作者开启 Claude 提示缓存后,发现 1412 次调用的 cache_read_input_tokens 均为 0,API 未报错。排查出三个独立问题:系统提示以“Current time: 09:41:07”开头,导致前缀每次变化;工具列表由 Python set 构建,字符串哈希随机化使 4 个 worker 发送的工具顺序不同;缓存断点前内容必须逐字节一致。文章强调需主动检查缓存命中字段,否则会持续按全价重复计费。

AI推荐理由 文章基于 1412 次调用中 cache_read_input_tokens 全为 0 的实际日志,定位出三个导致 Claude 提示缓存完全失效的原因:系统提示以动态时间戳开头、工具列表由 Python set 构建导致顺序随机、以及缓存断点前内容不一致;并强调 API 不报错、需主动读取缓存字段。对使用 Claude API 的开发者有直接排错价值,属于具体可验证的工程经验。

72

正文

当前仅保存了标题或简介;并非所有来源都提供正文,可通过下方原文链接查看。

来源报道 · 1 篇 · 以下链接均前往原始媒体

← 返回精选动态 原文

更多内容