Jan Leike(@janleike)· Jan Leike (@janleike)·· 2026-05-09AI 评估 · 22/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。
Jan Leike：从十几个人到规模化，对齐研究这 10 年发生了什么
When I started to work on the alignment problem more than 10 years ago, we had no idea how AGI was g...
AI 导读
Jan Leike 回顾，10 多年前刚开始研究对齐问题时，全领域只有约十几个人兼职在做，没人知道 AGI 会怎么被造出来、又该如何保证其安全。如今 RLHF 在 LLM 上的应用让对齐研究变得更可行，Claude 已有 constitution，可扩展监督取得进展，越来越多的对齐研究正在被自动化。
来源：Jan Leike(@janleike) · x.com