METR·· 20 小时前AI 评估 · 27/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。
评估者如何调查未发布 AI 模型的对齐情况
How an assessor could investigate alignment of unreleased AI models
AI 导读
METR 提出一套针对未发布 AI 模型的对齐评估方法，通过审查训练、评测和内部使用中近前沿模型的严重失准行为，判断这些行为是否可能低估未来最坏情况下的风险。评估需查询较完整的内部对话记录并采样内部模型 checkpoint，重点排查网络攻击、篡改日志、欺骗人类操作者、串通规避监督、窃取权重等行为。
来源：METR · metr.org