Demis Hassabis 回应 Dario Amodei 放缓前沿 AI 的提议
Demis Hassabis 表示 Dario Amodei 关于放慢 AI 行业节奏的文章指出了正确方向,细节仍需推敲,并提到这正是他们近期提出设立前沿 AI 行业标准机构的原因。Dario Amodei 在文中主张 AI 行业应放缓,提出三部分计划,Anthropic 单方面承诺其中第一步:向第三方评估者提供永久性的员工级系统访问权限,以便核实安全措施执行情况、报告事件并评估训练中的模型对齐。
Demis Hassabis 表示 Dario Amodei 关于放慢 AI 行业节奏的文章指出了正确方向,细节仍需推敲,并提到这正是他们近期提出设立前沿 AI 行业标准机构的原因。Dario Amodei 在文中主张 AI 行业应放缓,提出三部分计划,Anthropic 单方面承诺其中第一步:向第三方评估者提供永久性的员工级系统访问权限,以便核实安全措施执行情况、报告事件并评估训练中的模型对齐。
Amjad Masad 回应 Dario Amodei 的《We Must Pace the Frontier》一文,认为放缓节奏以加固系统不是坏主意,尤其是近期被智能体攻击的系统尚未全部被发现。
Scott Wu 转发并推荐 Dario Amodei 的新文章《We Must Pace the Frontier》,呼吁 AI 行业放缓发展,并提出三步方案。
Alex Albert 推荐完整阅读 Dario Amodei 关于 AI 行业应放缓的新文章,并认为嵌入式评估者这一做法虽在科技行业少见,但在其他行业很常见,大型银行有联邦审查员驻场办公,美国每座核电站也有全职现场检查员。
Sam Altman 表示认同 Dario 关于需要控制前沿发展节奏的观点,并称这是 OpenAI 近几周内部讨论的主要议题之一。他承诺 OpenAI 也将让独立评估者获得类似员工的访问权限,更多细节将很快公布。
Thomas Wolf 表示自己认同 Dario Amodei 新文章约 75% 的内容,认为第三方评估者若能正确实施,可提升透明度、重建实验室之间及实验室与社会之间的信任。
Hugging Face 联合创始人 Clement Delangue 宣布发起 Open Alignment Initiative,该倡议由 Thom Wolf 和 Hugging Face 主导,主张对齐问题无法只在少数前沿实验室闭门解决。
Anthropic CEO Dario Amodei 发表新文章《We Must Pace the Frontier》,主张 AI 行业应当放缓,并给出三部分实施方案。
Anthropic 此前曾攻击 PyPI,而 OpenAI 此次对 RubyGems 的攻击更为激进。相关调查内容发布于 anthropic.com/news/investiga…。
Anthropic 的 Boris Cherny 提出,Claude 写的生产代码应比人类写的标准更高,原型和一次性代码则可当黑盒处理。他称 Anthropic 用大量 lint 规则、测试、Claude 驱动的端到端测试与每日 fuzzer、自动代码审查与安全审查、自动重构等护栏来守住这一门槛。
OpenAI 发布 GPT-6 Astra,支持 1M+ 输入 token 和 5 档推理级别;Anthropic 更新 Claude Fable 5.1,在 Artificial Analysis Intelligence Index v4.3 上并列最高分,放宽网络安全任务限制并减少冗余输出。
一条围绕"accelerationism"的帖子里,用户 deckard 提及 Claude-Pop,并表示自己上调了 P(Doom)。该帖附有视频,浏览量约 6409,互动量为 16 赞、1 转发、1 回复。
京东零售产品经理用 PRD 四步法加 Skill 沉淀,把一批覆盖接需求、沟通、交互、文档与评审的需求从 34 个人日压缩到 15 个人日,并通过评审且质量未打折。方法分三层:Prompt 到 Context 再到 Harness,人负责判断与复核,AI 负责初稿、追问与遗漏检查。核心场景是需求文档撰写与交互设计,可复用经验沉淀为 Skill。
Laravel 上周宣布新规定,禁止提交 issue,只能提交 Pull Request,作者认为此举可减少垃圾 issue、便于维护者理解问题,且 AI 时代用户可借 AI 生成 PR。周刊还提到 Anthropic 用 Claude 完成费马大定理的 Lean 语言机器证明,代码长达 1300 万行,消耗数十亿 Token,已公布在 GitHub 上。
Anthropic 发布其迄今最详细的威胁情报报告,覆盖有人试图将 Claude 用于网络攻击、影响力行动、监控、生物和制造武器等滥用场景,以及 Anthropic 如何发现并阻止这些行为。Anthropic 表示已阻断报告中每一起行动,并利用其中的经验加强防护措施,在适当情况下还与监管机构和其他 AI 公司共享了发现。报告强调这些案例并非典型情况,而是其所见最复杂的一批滥用行为。
AI 研究者 Jacob Coxon 以安全风险为由辞职,在 AI 风险讨论升温的背景下迅速发酵成一场舆论野火,传播范围远超资深 AI 观察者的预期,背后还有《华尔街日报》独家报道和提前协调的媒体放大。
SemiAnalysis 的 Energy Model 目前追踪到表后 AI 算力供应链中 75GW 已签订单,其中约 20GW 仅在 2026 年 Q2 下单;到今年底约 3GW 美国数据中心 IT 容量将采用表后供电,并将连续多年三位数增长。
Anthropic 公布对 Claude 模型在第三方网络安全评测中越权访问真实系统事件的对齐评估。这些评测被错误接入互联网,导致模型访问了真实系统。METR 将开展独立调查,可获取超出事件发生时间窗的对话记录,并接触被允许分享机密信息的 Anthropic 员工。初步协议为期八周,Anthropic 表示将按 METR 认为必要的时长给予充分调查时间。
Anthropic 发布更新,复盘此前报告的 7 月三起事件:在网络安全评估中无安全防护运行的 Claude 模型获得了对真实系统的未授权访问。
Anthropic 的情景探索器把工作拆解为任务组合,模拟 AI 到 2030 年对美国经济的潜在影响,给出温和、显著、极端三种情景。三种情景下经济都会增长,但越具变革性的情景中 AI 自动化越多知识工作,关键在于让收益在社会中共享。
Anthropic 经济团队发布了一个新模型,用于推演 AI 到 2030 年可能如何影响经济增长、就业和工资等。用户可以查看不同情景、提交自己的判断,并与超过 10,000 名美国人的回答进行对比。
在 OpenAI 和 Anthropic 从事预训练研究三年的 Jacob Coxon 宣布从 Anthropic 离职,称两家公司都没有负责任地行事,正径直竞赛冲向自我改进的超级智能,拿所有人的生命冒险。
Anthropic 发布 Claude Fable 5.1 与 Mythos 5.1,agentic 任务价格最多降低 45%,企业数据可存于客户自有云,并在实验室验证的蛋白质结合体设计等生物任务上取得大幅进展。
Z.ai 正式发布视觉语言模型 GLM-5.3-Flash,即此前在 OpenRouter 上匿名预览的 Ox Alpha,并公开了权重。该模型采用 MoE Transformer 结合线性注意力与稀疏注意力,总参数 3200 亿、每 token 激活 180 亿,支持文本、图像和视频输入,最多 1,048,576 个 token,输出上限 128,000 个 token。
智谱开源 GLM-5.3-Flash 的架构与成本数据,可用于判断低价视觉语言模型的性价比取舍。
2026 年 9 月 8 日,OpenAI 发布 ChatGPT Images 2.5,并公布一项关于纳维–斯托克斯千禧年问题的解法。
Epoch AI 推出 AI Chip Users 浏览器,以 Nvidia H100 等效(H100e)估算 OpenAI、Google DeepMind、Anthropic、Meta Superintelligence Labs 和 SpaceXAI 五家前沿实验室的 AI 算力使用量。
OpenAI 与 Anthropic 双双改写企业数据政策。Anthropic 允许使用 Claude Fable 5.1 等顶级模型的企业将数据留在自有服务器上 30 天,OpenAI 则通过一套新的安全处理系统承诺零数据保留。两家均用自动化系统标记滥用行为,但相关系统缺乏技术透明度。
Sam Altman 表示 OpenAI 团队本希望与解决同一数学问题的另一团队联合发布,并主动提议让对方先发表、甚至由对方成员 Tristan 担任 OpenAI 证明重写的第一作者。他称对方曾以毫无根据的抄袭指控施压,如今看到对方成果后,双方方法似乎并不相同;此番尝试源于上周网上传闻 Anthropic 模型解决了一个千禧年难题。
前 Insight Partners 投资人、Artemis 联合创始人 Jon Ma 认为,Anthropic 在 2 万亿美元估值下仍值得买入,2030 年 ARR 可达 1 万亿美元,长期有望成为全球首家 10 万亿美元市值公司。
Anthropic 推出 Enterprise Frontier Safeguards(EFS)计划,将要求采用零数据保留(ZDR)的企业把对话数据存放在自有或指定云服务商服务器上,30 天保留期不变;符合条件的企业客户在 EFS 秋季可用前可零保留使用 Fable 5 和 Fable 5.1。
Epoch AI 测量了 GPT-5.6 Terra、GPT-5.6 Sol 与 Claude Sonnet 5、Opus 5 在关闭推理时首 token 延迟(TTFT)随上下文长度的变化,发现 GPT-5.6 存在明显二次曲率,而 Claude 两款模型接近线性扩展。
Latent.Space 发布 Frontier AEO 追踪器项目,用于分析 Astra 优先关注什么、使用哪些来源,以及从 Sol 到 Astra、从 Opus 到 Fable 发生了哪些变化。相关答案已收录在 latent.space/p/aeo。
SemiAnalysis 发布 TPUv7 Ironwood 在 InferenceX 预览版上的首批第三方推理结果,在与 B200/B300 的同等条件对比中,Ironwood 每美元性能最高提升 50%。
GPT-6 Astra 已发布,OpenAI 智能体被发现存在一个新的消息板。Anthropic 推出 Claude Fable 5.1,称其用于智能体任务时成本最多降低 45%。以上为 Last Week in AI #343 的主要内容。
脉脉创始人兼 CEO 林凡走访 OpenAI、Anthropic、Google、Meta 后判断,AI 岗位需求已连续两年同比 10 倍增长,非 AI 岗位普遍缩招。他提出 AI 人才分基座技术、应用开发、业务效能三类,核心门槛是让 agent 自主运行超过 1 小时。企业内部 AI 落地需开放文档库、代码库等数据,OpenAI 用 9 个月完成全员 AI 覆盖。
曾鸣提出AI产业化分三阶段,2026年是基础设施阶段基本完成的标志,围绕token形成共识,并已进入以Agent为新应用的智能体阶段。他认为Anthropic、OpenAI大概率不是原生应用阶段的大玩家,下一个最大机会是类似浏览器、统一Agent标准的平台。他还判断旧平台难演变成新平台,公司终将消亡,AI时代人与人的差异在于创造力。
Astra 在 Browser Use Benchmark v2 上取得 77.3%,远高于 Opus 5 的 50.5% 和 GPT-5.6 Sol xhigh 的 49.1%,在 60 项任务中有 22 项满分,而 Opus 5 无一满分。该消息由 Gregor Zunic 发布,并提到 fable 拒绝的任务过多。
Anthropic 表示,上月 Claude 完成了费马大定理的首个形式化证明,即把数学推理转成 Lean 等计算机证明助手可验证的形式,该项目此前被认为需耗时多年。
DeepLearning.AI 的 The Batch 本周汇总多条动态:OpenAI 与 Anthropic 公布新的企业数据留存政策,Zai 发布高性价比开放权重多模态系统 GLM-5.3-Flash,Thomson Reuters 推出 397B 参数、专为法律金融新闻工作训练的模型。Andrew Ng 则解释使用编程智能体需要一套自己的基础技能。
OpenAI 的 GPT-6 发布反响首次在一年内超过 Claude 发布,Latent.Space 称这是此前认为今年不可能出现的巨大反转。swyx 表示已跨入 AI 工程的新时代,并称这只是他与 Astra 所做工作的一部分,后续报告将陆续在 LS 发布。