AI Engineer Summit 2023 回顾：LLM 部署的评估与成本难题

Amplify Partners 对 AI Engineering 的调研显示，在已收到的 800 多份回复中，评估（evals）与服务成本是 LLM 部署的最大痛点，而目前仍没有好的评估方法，介于确定但脆弱的断言检查和昂贵的三方 LLM 打分之间。