量子位·· 7 小时前精选AI 评估 · 82/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。
DeepSeek 开源推理框架 DeepInfer 与 Token 编解码组件 deepseek-recipe
刚刚，DeepSeek开源自家推理框架！
AI 导读
DeepSeek 开源内部推理框架 DeepInfer，并同步开源生产级 Token 编解码组件 deepseek-recipe。DeepInfer 已用于 DeepSeek V4.1 Flash 的大规模推理服务，兼容英伟达 GPU 与华为昇腾 NPU，单集群每天支撑 155 万亿 Token 吞吐量。
推荐理由
原文披露了 DeepInfer 在 V4.1 Flash 线上服务中的吞吐、延迟与缓存命中数据，可据此判断开源推理栈的工程水平。
来源：量子位 · mp.weixin.qq.com