热点榜
热点事件已平息

Anthropic 消息线程公测:长对话首字延迟降约35%

5 篇报道3 个报道来源13 天前更新

先了解这件事

Anthropic 在 Claude Platform 以公开测试版推出 Message threads:API 在服务端缓存轮次之间的对话,开发者只需发送新消息和上一条消息 ID,无需重发完整对话,Claude 因此能更早开始响应。使用方式是在请求中添加 thread 参数和 beta header,该功能已在 Claude Platform、AWS 上的 Claude Platform、Microsoft Foundry 中的 Claude 以及 Google Cloud 上的 Claude 提供,按标准 token 费率计费。

据 Anthropic 称,Claude Code 已集成消息线程;在 500K 到 1M token 的请求上,首 token 中位时间降低约 35%,长对话中请求中位数从约 800 KB 降至 1.8 KB。The Decoder 指出,token 用量不变,因为 Claude 仍会读取完整对话历史。

线程在最后一次请求后 5 分钟过期,客户端需重发完整对话以开启新线程。

AI 根据报道生成 · 13 天前更新

最新进展

Anthropic 在 Claude 平台推出 Message Threads 公测,长对话首字延迟降低约 35%

事件进展1

  1. Messages API 消息线程功能进入公开测试

    Claude:Blog:Claude Platform 推出 message threads 公测,降低长会话智能体延迟

看完资讯,聊聊你的企业

留下联系方式,我会亲自联系你。

WECHAT

添加我的微信

长按或选中下方微信号复制。