先了解这件事
Anthropic 在 Claude Platform 以公开测试版推出 Message threads:API 在服务端缓存轮次之间的对话,开发者只需发送新消息和上一条消息 ID,无需重发完整对话,Claude 因此能更早开始响应。使用方式是在请求中添加 thread 参数和 beta header,该功能已在 Claude Platform、AWS 上的 Claude Platform、Microsoft Foundry 中的 Claude 以及 Google Cloud 上的 Claude 提供,按标准 token 费率计费。
据 Anthropic 称,Claude Code 已集成消息线程;在 500K 到 1M token 的请求上,首 token 中位时间降低约 35%,长对话中请求中位数从约 800 KB 降至 1.8 KB。The Decoder 指出,token 用量不变,因为 Claude 仍会读取完整对话历史。
线程在最后一次请求后 5 分钟过期,客户端需重发完整对话以开启新线程。
AI 根据报道生成 · 13 天前更新最新进展
Anthropic 在 Claude 平台推出 Message Threads 公测,长对话首字延迟降低约 35%
事件进展1
Messages API 消息线程功能进入公开测试
Claude:Blog:Claude Platform 推出 message threads 公测,降低长会话智能体延迟