Y Combinator· Y Combinator·· 4 小时前AI 评估 · 35/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。
YC Paper Club：为什么推理比训练重要 12 倍
Why Inference Matters 12x More Than Training | YC Paper Club
AI 导读
YC Paper Club 本期聚焦推理：模型每花 1 FLOP 训练，每年约有 6 FLOP 用于服务，做好推理在过去十年创造了超 2200 亿美元市值。来自 Together AI、Ollama、Luminal、SGLang 与 RadixArk 的研究者拆解了 token 从 API 请求到 GPU 再返回的完整链路，并讨论编译器与缓存新方法如何让推理更快、更高效。
来源：Y Combinator · youtube.com