Sam Altman:AI 可能走向失控或权力过度集中,需走窄中间道路
Sam Altman 提出 AI 进展可能严重出问题的两种路径:人类失去对未来的控制,或权力过度集中在单一国家或个人/公司手中,他认为必须走窄中间道路。
Sam Altman 提出 AI 进展可能严重出问题的两种路径:人类失去对未来的控制,或权力过度集中在单一国家或个人/公司手中,他认为必须走窄中间道路。
Sam Altman 表示,美国前沿 AI 公司应让世界相信其会负责任行事,但不必等待反垄断豁免或立法才开始这项工作。OpenAI 在预期大幅提升能力的前沿强化学习运行前,会预先制定明确的安全案例,并希望在错位、监控与安全上形成行业共享标准。他称"pacing"并非"停止",而是让进展慢于其本可达到的速度,这一成本值得付出。
模型厂商呼吁为 AI 发展踩刹车,这一情形在历史上曾有先例——当年香烟电视广告也经历过类似的行业自我约束。文章将两者作了类比,但未给出更多具体细节。
针对当前 AI 实验室格局,@signulll 提出为何不直接取消 IPO 并把实验室国有化,让美国财政部成为唯一股东。该设想认为国有化可立即解决部分激励问题,由政府统一协调算力、模型发布、安全标准与节奏,无需竞争对手合谋。具体形式可参照联邦所有的战略技术公司,将 OpenAI、Anthropic 及后续指定的前沿实验室纳入其中,由总统任命董事会。
David Sacks 在回应中称,Sam Altman 与 Dario Amodei 已认同"放慢前沿"的说法,他认为按市场份额、收入增长和模型能力衡量,两家已在前沿智能上形成双头垄断,因此支持其自主决定放缓,但反对以反垄断豁免或监管审批为条件。Sacks 还质疑 METR 的独立性,称其与 Anthropic 的投资人和员工交织,并指出中国不太可能加入全球协议。
微软与美国教师联合会(AFT)主席 Randi Weingarten 共同宣布校园 AI 安全与隐私国家标准,这一首创性协议将为学校安全负责地使用 AI 设立新标准。微软表示会把相关保护措施开放给美国所有学区。协议明确提出儿童优先、学生不是产品、教师不是 beta 测试者、学校不是数据收集或实验场所。
智谱 GLM-5.3 从 MIT 转为自定义许可证,规定若被许可方或其关联方运营模型即服务业务且连续 12 个月总收入超过 100 亿美元,须先通过 Z.AI 安全审查;该许可未定义"关联方",增加了采用不确定性。
Amjad Masad 转发 Andrew Curran 的消息称,Bernie Sanders 和 Greg Casar 提出 Ban Artificial Superintelligence Act,将暂停美国所有 AI 开发,禁止能力达到或超过人类认知水平的系统,违规者面临 20 年监禁。
Google 更新服务条款,明确 Antigravity 和 Gemini CLI 使用的配额并非来自用户的 Google 账号。由于 Gemini CLI 与 Antigravity 共用同一配额,该条款特别针对这两款产品作出说明。
白宫账号发布消息称,美国总统 Donald J. Trump 签署行政命令,建立新的联邦学院"美国太空学院"(THE UNITED STATES SPACE ACADEMY)。原始帖子未提供学院选址、开学时间或课程等更多细节。
Anthropic、AWS、Google、Microsoft、OpenAI、Oracle 等 100 多家机构联署公开信,呼吁全球加大网络防御力度。信中主张以全球性行动应对网络安全威胁,联署方覆盖主要云厂商与 AI 公司。
Anthropic 首次向外部研究者提供研究 AI 影响的方式,所用数据来自真实且经过隐私保护的 Claude 使用数据。Anthropic 表示这类研究此前只能在 AI 实验室内部进行,并称无法独自讲清全部情况,因此开放了自家工具。
LangChain 发文说明 LangSmith 与 LangChain OSS 如何对应 EU AI Act 的高风险系统要求,该法合规截止日为 2026 年 8 月 2 日,违规最高罚 1500 万欧元或全球年营业额的 3%。
为符合 EU AI Act 等新法规,Anthropic 将在所有未来的 Claude 模型中嵌入不可见水印,并最终覆盖较旧的模型。文本生成方面,Claude 采用 Google 的 SynthID 方法,通过种子生成器引导词汇选择形成统计模式,再由评分 API 检测;图像方面则嵌入 C2PA 元数据。
Richard Socher 转发 Perry E. Metzger 的观点,批评欧盟以一项项看似合理的监管持续拖慢创新。推文引述的案例称,美国拥有繁荣的小型电子制造商生态,而欧洲同类企业已被"彻底杀死",这类监管是导致欧洲科技创业公司大量消失的数千项法规之一。
Dario Amodei 回应 Gavin 称,"把 AI 监管等同于监管俘获和权力集中"是伪二选一。他以加州 SB53 为例,指出该法案对营收或模型训练成本低于 5 亿美元的公司完全豁免,Anthropic 主张对前沿模型施加比非前沿模型更严格的测试。
Demis Hassabis 祝贺 Kanishka Narayan 出任英国内阁 AI 大臣。Kanishka Narayan 上任 48 小时内与 Hassabis 首次通话,讨论把英国优势转化为英国就业,并与 Arm 的 Rene Haas 确认 Arm 作为英国 AI 领军者的角色。
美国科技政策负责人 Michael Kratsios 发布报告《Science: A New Golden Age》,回应特朗普关于复兴美国科学事业的呼吁,称其为面向 21 世纪重振美国科学领导力的蓝图。Kevin Weil 转发并评论称,长期来看,不在科学上领先就无法保持领先地位。
Christopher Manning 教授参与的 PNAS《生成式 AI 时代的法律》专题上线,涵盖 AI 安全与版权、AI 治理、法律解释等议题。该专题由 Manning 提出创意,Dan Ho、Julian Nyarko、Vanessa Parli 与 PNAS 共同完成。
美国政府首次对前沿模型发布实行审批式管控:Anthropic 获准向特定企业机构发布 Mythos-5,OpenAI 推出 GPT-5.6 "Sol" 且初期仅限约 20 家获批组织使用。OpenAI 同时公布首款自研推理 ASIC "Jalapeño"(与 Broadcom 合作、台积电 3nm 制程),GLM 5.2 以 MIT 许可发布并在长上下文编程任务上表现强劲。
Anthropic 发布 Claude Opus 4.8,基准分数提升,并推出面向长时间多智能体任务的 Dynamic Workflows;微软发布基于 OpenClaw 的常驻助手 Microsoft Scout 及 MAI Thinking 1 等自研 MAI 模型。
Richard Socher 指出,在版权与 AI 能力上,欧盟、美国、中国之间正出现日益扩大的分歧。中国开源模型构建者可使用各类想法、受版权保护的文本以及漫画和动漫角色等,内容与想法的无限制流动成为优势,或将造就更强的模型。这让西方陷入两难:坚持合理且有价值的版权与知识产权法律,可能被中国超越并最终完全依赖外部 AI 模型。
Google DeepMind 与 Isomorphic Labs 公布生物韧性联合方案,一方面防止威胁行为者滥用其模型,另一方面让政府、科学家和生物安全专家用 AI 构建更具韧性的社会。
Nathan Lambert 认为开放权重模型正面临迄今最严峻的监管考验,多项信源提到白宫正在讨论通过新行政令管理开放模型,但尚无官方信息,可能只影响中国来源模型与政府用途。
Andrew Ng 引用 Adam Thierer 的《Permissionless Innovation》一书,主张创新不应事先向政府申请许可,保护开源 AI 是其中关键部分。Thierer 警告美国 AI 治理正走向非透明、零散的模型审查流程,若形成"限制至许可"的默认规则,开源模型将难以合规。
抖音电商上线「肖像保护功能」,支持权利人前置录入肖像和声纹信息,并研发 AI 识别模型自动拦截经特效处理、戴口罩或变形的「明星脸」侵权内容,治理思路从「事后被动处置」转向「事前主动防控」。中国政法大学副教授朱巍与抖音电商治理业务代表 Jiaxu 在播客中指出,AI 换脸、声音克隆及虚构代言关系等手法正不断翻新,同时平台也面临误伤普通人、达人授权关系复杂及部分团队「坐地起价」等治理难题。
Meta CTO Andrew Bosworth 与 General Matter 创始团队成员 Lee Robinson 在一档播客中主张,科技从业者应把才华用于服务国家利益,从 LLM 到铀浓缩。
Anthropic 表示,美国政府以国家安全为由发出出口管制指令,要求暂停所有外国国民(包括身处美国境外的及 Anthropic 的外籍员工)对 Fable 5 和 Mythos 5 的全部访问,因此必须对所有客户停用这两款模型,其他 Claude 模型不受影响。
素材记录了模型因出口管制被停用的处置过程,可观察合规事件如何传导到具体开发工具链。
Anthropic 发布提案,阐述政府应如何应对前沿 AI 带来的风险,并同步推出针对就业流失的政策框架,Anthropic 表示将为此提供大额资金支持。
Dario Amodei 表示,许多 AI 政策主张在政治光谱上都有常识性吸引力,越早采取行动,就能越早让所有人共享 AI 带来的好处。
Anthropic 长期主张对前沿 AI 施加透明度要求,理由是风险尚不够清晰、难以精准监管。Dario Amodei 表示,这种做法如今已不再足够。
Google DeepMind 与新加坡政府达成国家 AI 合作,在医疗、教育、科研和气候领域落地新项目。合作探索 AI 辅助临床的“三元照护”、用 AlphaFold 与 Google Earth 推进东南亚传染病研究,并开发基于 Gemma 的视障跑者助手。Google 还向新加坡中小学至初级学院全体教师提供 Gemini for Education 及配套培训。
法律与 AI 研究所提出"激进可选项"监管思路:短期避免过度监管,同时快速建设信息收集权、举报人保护、政府间信息共享等制度工具以应对强大 AI 的冲击。Meta 与 KAIST 的论文提出神经计算机(NC),将计算、内存与 I/O 统一在学习到的运行时状态中。
Google DeepMind 与韩国科学与 ICT 部(MSIT)达成合作,将在首尔办公室设立 AI Campus,向韩国学界开放 AlphaEvolve、AlphaGenome、AlphaFold、AI co-scientist、WeatherNext 等前沿模型。合作覆盖生命科学、能源、天气与气候领域,并与韩国 AI 安全研究所(AISI)开展安全研究,同时探索面向韩国学生的实习机会。
美国总统于4月20日签署 Defense Production Act 第303条认定令,将变压器、高压输电部件、变电站等电网基础设施正式列为国防关键物资。
吴恩达警告反 AI 联盟正筛选更能煽动公众的叙事来拖慢 AI 进展。一项英国机构的大型研究发现,"AI 将导致人类灭绝"的说法基本失效,但 AI 战争与环境议题更能引发共鸣,失业和儿童受害则是驱动人们行动的信息。他同时指出,大型 AI 公司借"AI 危险"论阻挠开源项目自由分发,实质是监管俘获。
Mike Krieger 表示"今天为在 Anthropic 工作感到自豪",并转发 Anthropic 官方针对美国战争部长 Pete Hegseth 言论发布的声明。该声明原文发布在 Anthropic 官网新闻页,帖文附带声明链接。
法国总统马克龙表示,自 5 月 5 日发出"为了科学,选择法国"的呼吁后,已有约四十位顶尖研究者选择法国。通过"法国 2030"计划,法国已投入超过 3000 万欧元,用于推进健康、气候行动、人工智能和基础科学。
METR 发布前沿 AI 安全法规参考文档,梳理加州 SB 53、纽约 RAISE Act、伊利诺伊 SB 315 及欧盟 AI Act 前沿 AI 部分对 OpenAI、Google、Anthropic、xAI 等开发者的安全与安保义务。
METR 发布面向前沿 AI 实验室人员的合规参考,梳理加州 SB 53、纽约 RAISE 法案、伊利诺伊 SB 315 及欧盟 AI 法案中前沿 AI 部分的义务。