跳到正文
原文
Jan Leike(@janleike)· Jan Leike (@janleike)·· 2026-04-15AI 评估 · 19/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

Jan Leike:为何将 AAR 指向可扩展监督问题

However, most alignment research is not very crisp and requires research taste when evaluating. Thi...

AI 导读

Jan Leike 表示,多数对齐研究不够清晰、评估时需要研究品味,这正是他们选择把 AAR 指向可扩展监督(scalable oversight)问题的原因。若取得进展,AAR 便能着手处理更模糊的对齐问题——那些人类只能提供弱监督的场景。

来源:Jan Leike(@janleike) · x.com