正文

OpenAI 28天产品冲刺Day16:Codex和Work缓存永久保留,API延长至12小时

动察 Beating AI 快讯,OpenAI 产品与平台主管 Thibault Sottiaux 公布 28 天产品冲刺的 Day 16。这次重点解决 Agent 长时间运行时的上下文缓存问题。对于已登录的 Codex 和 ChatGPT Work 用户,OpenAI 宣布永久保留提示词缓存。即使隔了几个小时才继续工作,或者重新打开旧会话,也能保证命中缓存,不再因为长时间暂停而失去缓存复用的好处。

API 也同步升级。OpenAI 将 Responses API 的可选缓存时长从默认 30 分钟扩展至 12 小时。开发者可以长期缓存系统指令、工具定义和常用上下文,让 Agent 隔几个小时再执行任务时,仍能复用之前的计算结果。两种时长还能混合使用,固定指令保留 12 小时,新对话内容只缓存 30 分钟。

不过,API 延长缓存需要付出额外成本。12 小时缓存的首次写入价格为普通输入的 2.5 倍,是默认 30 分钟缓存的两倍。后续命中缓存时,多数新模型的输入价格降低 90%,GPT-6.1 Sol 则降低 95%。因此,长缓存更适合反复调用相同上下文的 Agent,而非只执行一次的短任务。

原文链接:https://m.theblockbeats.info/flash/372912