Cloudflare 披露 GLM-5.3 Workers AI 跨请求 KV cache 泄露事件及修复细节
Cross-request KV cache exposure in the GLM-5.3 Workers AI model (155 responses)
AI 导读Cloudflare 于 2026 年 10 月 26 日发布协同披露报告,说明 Workers AI 上的 GLM-5.3 模型因 prefill KV cache 池(681,280 tokens)小于上下文窗口(1,048,576 tokens)叠加 SGLang 分离式推理的拒绝路径缺陷,导致超长请求读到了之前其他用户请求的 KV cache 数据。
另有 1 家信源报道
- SGLang 披露并修复 PD 分离服务中的跨请求 KVCache 竞态问题LMSYS Blog · 21 天前
来源:Hacker News:AI 热帖 · blog.cloudflare.com
事件后续1
查看事件全部- SGLang 披露并修复 PD 分离服务中的跨请求 KVCache 竞态问题LMSYS Blog · 21 天前