内容摘要快讯称,Anthropic公测消息线程,Claude Code长对话传输量与首Token等待时间下降。
正文
Claude Code长对话首Token等待缩短35%,请求数据减少99.8%
动察 Beating AI 快讯,Anthropic 在 Messages API 上线 Message Threads(消息线程)公测,减少 AI Agent 反复上传对话历史的开销。
过去,Coding Agent 每次调用 Claude,都要重新发送之前的消息和工具执行结果。现在只需首次上传完整对话,后续每轮发送新消息和上一轮回复 ID。服务器会临时保存历史记录,省去重复传输、校验和分词的时间。
这项功能已在 Claude Code 中默认启用。Anthropic 披露,在 50 万至 100 万 Token 的请求中,首 Token 等待时间中位数降低约 35%。长对话的单次请求体积中位数从约 800KB 缩至 1.8KB,减少约 99.8%。
不过,模型仍需处理完整上下文,Token 用量和费用不变。服务器保存的消息线程也会在闲置 5 分钟后过期,届时需要重新上传历史记录。
原文链接:https://m.theblockbeats.info/flash/375270
AI 辅助解读
以下为辅助分析,与已报道事实分开展示;重要信息请进一步核实。
这项功能把长对话历史暂存在服务器。首次发送完整内容后,后续请求通过回复 ID 接续线程,不必反复上传相同历史。它主要减少网络传输和首个Token出现前的等待,但不会减少模型实际处理的上下文。
对读者的影响
对于长时间运行的编码Agent,请求体积和等待时间下降可能让交互更快,也能减少重复上传大量对话记录的开销。
新手可将其理解为:系统记住了刚才的对话,后续只需发送新增内容;但计费所依据的Token用量并未因此减少。
风险与未知
- 证据是媒体快讯转述,未包含 Anthropic 一手公告,默认启用范围及性能数据仍需官方材料交叉确认。
- 文中数据针对 50 万至 100 万 Token 的请求,其他长度或工作流能否获得相同改善未知。
- 消息线程闲置 5 分钟后过期,实际使用中重新上传历史的频率及影响未知。