lmarena.ai(@lmarena_ai)· Arena.ai (@arena)·· 8 天前AI 评估 · 44/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。
如何为后训练前沿图像模型设计奖励?LMArena 研究提出复合奖励方案
How to design rewards for post-training frontier image models? Our research suggests human prefere...
AI 导读
LMArena 研究指出人类偏好奖励对后训练图像模型必要但不充分,模型仍会奖励好看却丢细节或引入无关内容的输出,因此提出复合奖励:约 560 万对人工投票训练的 Bradley-Terry 奖励模型、由视觉语言模型评估自动生成提示词清单的忠实度奖励、约束奖励与反奖励黑客评分奖励。
来源:lmarena.ai(@lmarena_ai) · x.com