国际大厂· Latent.Space·· 3 小时前精选AI 评估 · 85/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。
DeepSeek 开源推理框架 DeepInfer,称单集群日处理 155T tokens
[AINews] DeepSeek DeepInfer: Open Source SOTA Inference running 155T toks/day/cluster making $22m/day at ~80% margin for a 81 day payback
AI 导读
DeepSeek 开源其自研推理框架 DeepInfer,用于支撑 DeepSeek-V4.1-Flash 的大规模服务,并同步发布 deepseek-recipe 处理 Chat Completions、Messages、Responses 等 API 协议转换。
推荐理由
DeepSeek 开源生产推理栈,并披露单集群吞吐与单卡收入数据,读者可据此理解缓存命中在成本结构中的位置。
来源:国际大厂 · latent.space