Eugene Yan 的 39 条机器学习系统构建、扩展与执行经验

Eugene Yan 整理了 2024 年机器学习会议笔记，归纳出 39 条构建机器学习系统的经验，涵盖奖励函数设计、评估框架、数据飞轮与规模化生产等主题。他指出，评估体系正在成为团队的差异化护城河，而数据本身不是竞争优势，能更快转动数据飞轮的一方才会赢。在规模化方面，他引用 Will Larson 的观点：最贵的 LLM 对 B2B 来说不算贵，最便宜的 LLM 对 C 端来说也不算便宜。