SGLang 对比 DeepInfer:DeepSeek-V4.1-Flash 推理性能实测与完整服务能力
More Than DeepInfer: What SGLang Delivers
AI 导读SGLang 用 DeepInfer 官方 benchmark 在相同硬件上对比测试 DeepSeek-V4.1-Flash,4x GB300 和 4x B300 上 prefill 吞吐最高达 1.04x,64x GB300 上 decode 步长缩短 1.1% 至 7.4%。
来源:LMSYS Blog · lmsys.org
事件后续1
查看事件全部- DeepSeek 全面开源内部推理框架 DeepInfer公众号:DeepSeek · 27 天前