OpenAI 把 prompt 缓存的时钟拨到了 12 小时。开发者账号的说法很克制:现在可以选 12 小时缓存,跑长任务的智能体哪怕两次请求之间隔了好几个钟头,也能继续用更低的缓存输入费率复用指令、工具清单和上下文。听起来只是个参数调整,实际上是在给“长时间运行”这件事松绑。
Tibo 的补充更值得琢磨。他说 Codex 和 Work 里已登录用户的缓存是永久保留的——翻回几天前的旧对话,或者隔几个小时重新捡起一个会话,缓存照样命中,而且没有额外惩罚。这和 API 侧那个“可选 12 小时”是两套逻辑:前者是卖给开发者的计价开关,后者是塞进产品里的默认体验。一个按小时算,一个干脆不设期限。
真正被改写的是智能体的成本曲线。过去做长周期任务,最贵的往往不是推理,而是每次重开都要把系统提示、工具定义、检索回来的上下文再喂一遍;间隔越久,重复付费越多,产品设计上就只能逼着用户一口气干完。缓存窗口拉长到 12 小时,等于承认了一个基本现实:人会走开、会吃饭、会第二天再回来。谁把“离开再回来”做成零成本,谁就留住了那些真正跑得久的场景。反过来,缓存时长也会变成定价表上的一行字——它比模型参数更直白地告诉你,这家公司到底想让智能体跑多久。

