社论|超级智能时代的"非智能":政客与国会放话,真正拍板的是国家安全机器
WSJ 社论指出,围绕超级智能的争论中,政客与国会高声表态,但实际决策权掌握在国家安全机构手中。文章认为这场关于超级智能的公共讨论流于表面,真正的方向由国家安全体系主导。
WSJ 社论指出,围绕超级智能的争论中,政客与国会高声表态,但实际决策权掌握在国家安全机构手中。文章认为这场关于超级智能的公共讨论流于表面,真正的方向由国家安全体系主导。
特朗普签署行政命令,禁止在可能之处使用 "AI" 一词,要求改称 "Super Intelligence",并宣布使用 "Artificial Intelligence" 的人是 "THE ENEMY"。
SemiAnalysis 统计 2021 年至 2026 年 9 月 15 日 9 家中国头部开发商的 857 个模型发布,仅 31 个(3.6%)附带开发者公布的安全评估结果,其中只有 9 个(1.1%)在发布时或之前公布。
美国总统特朗普在 Truth Social 发文称,白宫将任何使用"Artificial Intelligence"而非"Super Intelligence"这一新说法的人视为"敌人"。
Open Source Summit Europe 圆桌讨论指出,欧洲组织实现技术主权不必回避全球技术供应商,但需要可信的替代方案和相应技能。
WSJ 观点文章主张用物理学而非政策来监管 AI 行业:没有足够清洁电力运行,就不应新建数据中心。文章以电力供给作为 AI 扩张的硬约束。
Gary Marcus 转发 David Krueger 的呼吁——立即、无限期、国际性地暂停前沿 AI 开发,并向读者征询对此最有力的反驳论点。
Anthropic 发布报告称 GLM-5.3 可作攻击性网络工具,Nathan Lambert 认为这类讨论回避了"禁用开源模型会怎样"等关键问题。他指出,迄今已记录的多数网络攻击由闭源模型导致,若因网络风险禁用开源权重模型,或许也应禁止前沿闭源模型的公开 API。
Gary Marcus 引述 @SpeakerMenin 的呼吁,要求科技公司宣誓证明其系统会遵守自身的安全指令。他称这些公司做不到,原因是相关技术仍是一团糟。
Groq 回应 Microsoft 的 AI 安全刹车主张,认为"安全云"不应变成少数供应商的代名词,安全是涵盖访问、监控、事件响应与可审计性的运营标准。Groq 表示 Groq Cloud 自始面向 AI 构建,在各层级内建防护措施,并快速响应新风险。
Hugging Face 联合创始人兼 CEO Clement Delangue 在联合国安理会发言,回顾公司今年 7 月成为首家公开披露自主智能体网络攻击的企业,并分享三点教训。
Sam Altman 提出,AI 实验室之外的人应对技术发展有真正话语权,并有明确方式判断其是否安全推进。他认为标准应有助于防止权力集中,确保新公司和开源模型公司能参与竞争,并帮助各国和企业比对证据、从失败中学习。他主张美国应主导这一进程,并附上了 OpenAI 的提案链接。
Mustafa Suleyman 签署了跨党派的人类主义 AI 宣言 Pro-Human AI Declaration,认为其中有许多好提议,也有部分值得商榷,但整体方向正确。Max Tegmark 表示该宣言已有超一百万人签署,主张"造工具而非造生命,让人类掌权"。
RAND 发布长篇报告,建议美国在通往超级智能的不确定路径上采取"自由行动"战略,通过投资 AI 安全、保持人类能动性和塑造生态激励来保留选项。报告将战略分为共存、阻断、加速三大家族共七种原型。研究者还学会了在脑组织被人为耗竭的幼鼠体内培育类人脑组织块。
Naval 主张,对"危险"或防护薄弱的开源模型应追究托管方责任,同时利用越狱让模型从事有害行为的终端用户也需承担相应责任。
Naval 认为,为前沿模型发展定速的最佳方式是让实验室对其模型行为承担全部责任。该观点帖获得 21408 次点赞、1944 次转发和 129 万次浏览。
Arthur Mensch 转发 Lazarz 的帖子称"我们是战略家的大陆",该帖罗列了 transformative-ai.eu、accelerate-europe.org、aichampions.eu、euro-stack.eu、openeurollm.eu 等多个欧盟 AI 相关网站,并附带欧盟委员会数字战略与 AI 政策页面链接,暗指欧洲 AI 领域网站与战略文件层出不穷。
欧洲发布《变革性 AI 战略》,由 Anton Osika 等人参与推动,目标包括可靠获取前沿 AI 算力、到 2030 年占据全球 AI 算力的 15%,并建立成员国供应链安全联盟。该提案还强调快速决策的机构、高增长的欧洲公司,以及保障 AI 安全转型的国际协调。
Sam Altman 提出 AI 进展可能严重出问题的两种路径:人类失去对未来的控制,或权力过度集中在单一国家或个人/公司手中,他认为必须走窄中间道路。
Sam Altman 表示,美国前沿 AI 公司应让世界相信其会负责任行事,但不必等待反垄断豁免或立法才开始这项工作。OpenAI 在预期大幅提升能力的前沿强化学习运行前,会预先制定明确的安全案例,并希望在错位、监控与安全上形成行业共享标准。他称"pacing"并非"停止",而是让进展慢于其本可达到的速度,这一成本值得付出。
模型厂商呼吁为 AI 发展踩刹车,这一情形在历史上曾有先例——当年香烟电视广告也经历过类似的行业自我约束。文章将两者作了类比,但未给出更多具体细节。
针对当前 AI 实验室格局,@signulll 提出为何不直接取消 IPO 并把实验室国有化,让美国财政部成为唯一股东。该设想认为国有化可立即解决部分激励问题,由政府统一协调算力、模型发布、安全标准与节奏,无需竞争对手合谋。具体形式可参照联邦所有的战略技术公司,将 OpenAI、Anthropic 及后续指定的前沿实验室纳入其中,由总统任命董事会。
David Sacks 在回应中称,Sam Altman 与 Dario Amodei 已认同"放慢前沿"的说法,他认为按市场份额、收入增长和模型能力衡量,两家已在前沿智能上形成双头垄断,因此支持其自主决定放缓,但反对以反垄断豁免或监管审批为条件。Sacks 还质疑 METR 的独立性,称其与 Anthropic 的投资人和员工交织,并指出中国不太可能加入全球协议。
Amjad Masad 转发 Andrew Curran 的消息称,Bernie Sanders 和 Greg Casar 提出 Ban Artificial Superintelligence Act,将暂停美国所有 AI 开发,禁止能力达到或超过人类认知水平的系统,违规者面临 20 年监禁。
Richard Socher 转发 Perry E. Metzger 的观点,批评欧盟以一项项看似合理的监管持续拖慢创新。推文引述的案例称,美国拥有繁荣的小型电子制造商生态,而欧洲同类企业已被"彻底杀死",这类监管是导致欧洲科技创业公司大量消失的数千项法规之一。
Dario Amodei 回应 Gavin 称,"把 AI 监管等同于监管俘获和权力集中"是伪二选一。他以加州 SB53 为例,指出该法案对营收或模型训练成本低于 5 亿美元的公司完全豁免,Anthropic 主张对前沿模型施加比非前沿模型更严格的测试。
美国政府首次对前沿模型发布实行审批式管控:Anthropic 获准向特定企业机构发布 Mythos-5,OpenAI 推出 GPT-5.6 "Sol" 且初期仅限约 20 家获批组织使用。OpenAI 同时公布首款自研推理 ASIC "Jalapeño"(与 Broadcom 合作、台积电 3nm 制程),GLM 5.2 以 MIT 许可发布并在长上下文编程任务上表现强劲。
Anthropic 发布 Claude Opus 4.8,基准分数提升,并推出面向长时间多智能体任务的 Dynamic Workflows;微软发布基于 OpenClaw 的常驻助手 Microsoft Scout 及 MAI Thinking 1 等自研 MAI 模型。
Richard Socher 指出,在版权与 AI 能力上,欧盟、美国、中国之间正出现日益扩大的分歧。中国开源模型构建者可使用各类想法、受版权保护的文本以及漫画和动漫角色等,内容与想法的无限制流动成为优势,或将造就更强的模型。这让西方陷入两难:坚持合理且有价值的版权与知识产权法律,可能被中国超越并最终完全依赖外部 AI 模型。
Nathan Lambert 认为开放权重模型正面临迄今最严峻的监管考验,多项信源提到白宫正在讨论通过新行政令管理开放模型,但尚无官方信息,可能只影响中国来源模型与政府用途。
Andrew Ng 引用 Adam Thierer 的《Permissionless Innovation》一书,主张创新不应事先向政府申请许可,保护开源 AI 是其中关键部分。Thierer 警告美国 AI 治理正走向非透明、零散的模型审查流程,若形成"限制至许可"的默认规则,开源模型将难以合规。
Meta CTO Andrew Bosworth 与 General Matter 创始团队成员 Lee Robinson 在一档播客中主张,科技从业者应把才华用于服务国家利益,从 LLM 到铀浓缩。
Dario Amodei 表示,许多 AI 政策主张在政治光谱上都有常识性吸引力,越早采取行动,就能越早让所有人共享 AI 带来的好处。
Anthropic 长期主张对前沿 AI 施加透明度要求,理由是风险尚不够清晰、难以精准监管。Dario Amodei 表示,这种做法如今已不再足够。
吴恩达警告反 AI 联盟正筛选更能煽动公众的叙事来拖慢 AI 进展。一项英国机构的大型研究发现,"AI 将导致人类灭绝"的说法基本失效,但 AI 战争与环境议题更能引发共鸣,失业和儿童受害则是驱动人们行动的信息。他同时指出,大型 AI 公司借"AI 危险"论阻挠开源项目自由分发,实质是监管俘获。
Geoffrey Hinton 表示刚看完一场关于 AI 未来的精彩对话,认为每位政客在跟风宣称 AI 监管会妨碍创新之前都应该看看。他随文附上了 YouTube 视频链接。
欧盟以"欺骗性设计"为由对 X 开出 1.2 亿欧元罚款,作者称这暴露了欧洲缺乏言论自由与科技竞争力。欧盟科技罚款收入在 2024 年超过其公共互联网科技公司缴纳的全部所得税,而欧盟 2025 年 GDP 为 20 万亿美元,美国以 30 万亿美元高出 50%。作者认为欧洲并非注定衰落,但需大幅降低能源成本、重启核能并改革移民政策留住人才。
Geoffrey Hinton 警告,大幅削减 National Science Foundation 的经费将对美国的未来非常不利。他针对该机构资金问题公开发声,相关观点刊于 thehill.com。