智能体
x.com ·
@OpenAIDevs
OpenAI 改进 GPT-6 API 的 prompt caching，称可降低 Agent 成本并提速
OpenAI 开发者账号称已改进 GPT-6 API 的 prompt caching：默认缓存命中率更高，使更多输入 token 可享受最高 90% 的缓存输入折扣，从而让 Agent 运行更快、成本更低。该帖未给出具体基准、生效范围或文档链接，折扣与命中率提升幅度尚待核实。
AI推荐理由 OpenAI 开发者账号发布 GPT-6 API prompt caching 改进，给出默认缓存命中率提升、缓存输入折扣最高 90% 的具体说法，对 Agent 成本与延迟有直接价值；但正文极短，未提供基准数据、生效范围或文档链接，折扣上限与命中率提升幅度均无法独立核实，且互动数据缺失，故不能视为已验证的官方首发效果。
72
浏览 70,872
点赞 1,420
评论 67
转发 60
正文
We’ve improved prompt caching in the API for GPT-6, helping agents run faster and cost less.
Higher cache-hit rates by default mean more input tokens benefit from cached-input discounts of up to 90%.
https://t.co/NZse8QKr8G