bibibi.cc正在加载…
PANews称OpenAI API支持12小时提示词缓存，Codex和Work登录用户缓存可永久保留。
OpenAI API 推出 12 小时提示词缓存，Codex 和 Work 登录用户的缓存永久保留
PANews 10月21日消息，据 OpenAI Developers，OpenAI API 现在支持 12 小时的提示词缓存（prompt caching）。开发者可以把共享的指令、工具和上下文缓存更长时间，即使请求之间隔了几个小时，也能按较低的缓存输入价格计费。这项功能主要面向持续运行、全天复用上下文的智能体。Tibo（@thsottiaux）随后补充，Codex 和 Work 的登录用户的缓存将永久保留。用户回到旧对话，或者隔几小时再继续时，都能命中缓存，不会产生额外费用。
原文链接：https://www.panewslab.com/zh/articles/01a15c05-f237-73d6-8b72-63345c0d5e9f
PANews于10月21日报道，OpenAI API现在支持12小时的提示词缓存。
报道援引OpenAI Developers称，开发者可更长时间缓存共享的指令、工具和上下文。
报道表示，即使请求间隔数小时，也能按较低的缓存输入价格计费。
报道称，该功能主要面向持续运行、全天复用上下文的智能体。
Tibo（@thsottiaux）随后补充，Codex和Work登录用户的缓存将永久保留。
报道表示，用户回到旧对话或隔几小时继续时可以命中缓存，不会产生额外费用。
以下为辅助分析，与已报道事实分开展示；重要信息请进一步核实。
提示词缓存是把重复使用的指令、工具和上下文暂时保存起来。按照报道，OpenAI API的缓存时间可达12小时；Tibo还称，Codex和Work登录用户的缓存可永久保留。
对于需要反复使用相同上下文的智能体，较长缓存可能减少重复输入，并让符合条件的请求按较低的缓存输入价格计费。
如果你会隔几小时继续旧对话，或让智能体持续运行，这项变化可能影响重复上下文的计费；但具体适用范围仍需核实。
正在加载事件时间线…