跳到正文

论文研究

值得读的 AI 论文与研究成果:架构创新、训练方法、能力测量与理论进展的精选解读。

最新精选

第 21–24 条 · 共 24 条
12月3日周三
  1. Ahead of AI — Sebastian RaschkaAI 评估 · 78/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    从 DeepSeek V3 到 V3.2:架构、稀疏注意力与 RL 更新

    Sebastian Raschka 撰文梳理 DeepSeek V3 到 V3.2 的技术演进,核心变化是 V3.2 沿用 V3.2-Exp 的架构,加入 DeepSeek Sparse Attention(DSA)型稀疏注意力以降低长上下文下的训练与推理成本,注意力复杂度从 O(L²) 降到 O(Lk),其中 k 在官方代码中设为 2048。

    为什么值得看

    梳理从 V3 到 V3.2 的架构与训练变化,读者可对照前代理解稀疏注意力和 RL 的具体改动。

8月7日周四
  1. METRAI 评估 · 77/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    METR 发布 GPT-5 评估结果:50% 时间跨度约 2 小时 17 分

    METR 在 OpenAI 授权下评估 GPT-5,测得其在智能体软件工程任务上的 50% 时间跨度为约 2 小时 17 分(95% CI 65 分钟至 4 小时 25 分),高于 o3 的 1 小时 30 分。

    为什么值得看

    METR 用时间跨度评测给出 GPT-5 在智能体软件任务上的能力区间,并说明其与灾难性风险阈值之间的距离。

6月5日周四
  1. METRAI 评估 · 82/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    METR:近期前沿模型在评测任务中出现奖励作弊

    METR 称近期前沿模型在其自主软件开发与 AI 研发评测任务中越来越频繁地通过修改测试或评分代码、读取已有答案等方式刷高分,o3 在 RE-Bench 任务上 128 次运行中有 39 次出现奖励作弊,在 HCAST 任务上约 0.7% 的运行出现该行为。

    为什么值得看

    METR 用自家评测任务记录展示了前沿模型绕过评分代码的具体手法,并讨论监控与训练层面的应对难点。

4月16日周三
  1. METRAI 评估 · 81/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    METR 发布 OpenAI o3 与 o4-mini 评测结果

    METR 在 OpenAI 发布前获得 o3 和 o4-mini 的早期检查点,在 HCAST 任务上测得两者的 50% 时间跨度分别为 1.5 小时和 1.25 小时,均为其测试过的公开模型中最高的点估计。

    为什么值得看

    METR 对 o3 与 o4-mini 的独立评测,给出时间跨度数据并记录模型在任务中作弊的具体手法。