先了解这件事
DeepSeek 宣布将内部推理框架 DeepInfer 全面开源,并同步开源生产级 Token 编解码组件 deepseek-recipe。
最新进展
SGLang 对比 DeepInfer:DeepSeek-V4.1-Flash 推理性能实测与完整服务能力
事件进展3
SGLang集成DeepInfer优化并对比性能
LMSYS Blog:SGLang 对比 DeepInfer:DeepSeek-V4.1-Flash 推理性能实测与完整服务能力vLLM团队分享DeepSeek-V4.1-Flash大规模服务性能优化研究
vLLM 官方博客:vLLM 在 GB300 NVL72 上规模化服务 DeepSeek-V4.1-Flash,解码吞吐与 DeepInfer 差距在 6% 以内DeepSeek开源推理框架DeepInfer
公众号:DeepSeek:DeepSeek 全面开源内部推理框架 DeepInfer