DeepSeek开源推理框架DeepInfer

2026年10月20日，DeepSeek 将其内部推理框架 DeepInfer 全面开源，并同步开源生产级 Token 编解码组件 deepseek-recipe。早先报道称，DeepInfer 集成高性能算子与推理引擎，支持分布式推理、推测解码、SWA Bounded Replay 和结构化输出，并兼容英伟达与华为昇腾平台，但未提及开源前的内部使用情况、发布时间线或后续维护计划。后续报道补充称，DeepInfer 采用 Apache 2.0 协议开源，deepseek-recipe 采用 MIT 协议，并称该框架支撑其集群一天服务 155 万亿 Token。目前可知的进展即为该框架及相关组件已对外开源。

AI 根据报道生成 · 7 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。