DeepSeek 将内部推理框架 DeepInfer 全面开源
DeepSeek 宣布将内部推理框架 DeepInfer 全面开源,目标实现大模型普惠
AI 导读DeepSeek 宣布将内部推理框架 DeepInfer 全面开源,此前已开源大模型、TileLang 编译工具及推理算子库。DeepInfer 集成高性能算子与深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力,兼容英伟达与华为昇腾平台,已支撑 DeepSeek V4.1 Flash 高吞吐、低延迟的大规模推理服务。
另有 8 家信源报道
- DeepSeek 开源内部推理框架 DeepInferX.PIN · 26 天前
- DeepSeek 开源推理框架 DeepInfer,采用 Apache License 2.0The Decoder:AI News · 27 天前
- DeepSeek 开源 DeepInfer 推理框架,支撑 DeepSeek-V4.1-Flash 生产服务MarkTechPost · 27 天前
- DeepSeek 开源自研推理框架 DeepInferTianyi Cui · 27 天前
- DeepSeek 以 Apache 2.0 开源生产推理引擎 DeepInferRohan Paul · 27 天前
- DeepSeek 开源自研推理框架 DeepInferDeepSeek · 27 天前
- DeepSeek 全面开源内部推理框架 DeepInfer公众号:DeepSeek · 27 天前
- DeepSeek 以 Apache-2.0 开源大规模推理框架 DeepInferTianyi Cui · 27 天前
来源:IT之家·人工智能 · ithome.com
事件后续1
查看事件全部- DeepSeek 全面开源内部推理框架 DeepInfer公众号:DeepSeek · 27 天前