NVIDIA 研究：给多模态模型接入工具会削弱其拒绝有害请求的能力
NVIDIA 一篇被 NeurIPS 2026 接收的论文发现，给多模态模型接入工具后，其拒绝有害请求的失败率相对上升最高达 68.7%，平均上升 17.7%。
#安全/对齐
#安全/对齐
今日 25 条elvis(@omarsar0)AI 评估 · 57/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 57/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 elvis(@omarsar0)AI 评估 · 34/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 34/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Cogent 推出 Attack Path Analysis，用自研网络安全模型防御 AI 智能体集群攻击
Cogent 发布 Cogent Attack Path Analysis，用其自研网络安全模型找出 AI 智能体集群可能利用的更长入侵路径，并指出能一次性封堵每条路径的单个修复点。
InfoQAI 评估 · 46/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 46/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Cloudflare 用 AI 测试框架探测并加固其 WAF
Cloudflare 将前沿 AI 模型放入受控测试框架中探测其 WAF，以已拦截的攻击载荷为起点让模型生成并迭代新变体，在 45 个场景中产生 1,107 次尝试，经人工筛查后留下 49 项发现。
InfoQAI 评估 · 13/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 13/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 InfoQ 网络研讨会：AI 进入生产环境，什么会崩、什么可行、谁来把关？
InfoQ 将于 10 月 14 日举办免费 60 分钟线上研讨会"AI in Production: What Breaks, What Works, and Who Approves It?
lmarena.ai(@lmarena_ai)AI 评估 · 63/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 63/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Arena 发布 Alignment Index，基于 2.7 万个模型会话评测 AI 智能体安全与对齐
Arena.ai 发布 Arena Alignment Index，一个衡量 AI 智能体真实使用中安全与对齐表现的新基准，基于 27 个模型的 90K+ 真实智能体会话构建，衡量未授权操作（UA）、错误归因（FA）和虚假完成（DC）三类信号。
lmarena.ai(@lmarena_ai)AI 评估 · 25/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 25/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 LMArena 研究 AI 智能体的错误归因：GPT-6 Luna、Astra 与 Sol 表现各异
LMArena 研究了 AI 智能体的“错误归因”问题，即智能体把某句话、请求或事实安到用户头上，却与用户提供的证据相矛盾。GPT-6 Luna 和 Astra 很少错误引用用户（分别为 15.6% 和 28.6%），但错误归因率较高（53.1% 和 48.2%）；同系列的 GPT-6 Sol 误记用户历史的比例最高，达 23.5%。
lmarena.ai(@lmarena_ai)AI 评估 · 15/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 15/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 LMArena 发布技术报告与 Alignment Index 完整排名
LMArena 发布技术报告，并开放 Alignment Index 完整排名查看。原文未披露具体模型、参数量或评测分数等细节，仅给出博客报告与排名页面链接。
lmarena.ai(@lmarena_ai)AI 评估 · 61/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 61/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Arena 完成 2 亿美元 B 轮融资，估值 31 亿美元并发布 Alignment Index
Arena 宣布完成 2 亿美元 B 轮融资，估值 31 亿美元，同时发布 Arena Alignment Index。该指数基于真实世界智能体轨迹构建，首批包含 Unauthorized Action、False Attribution 和 Deceptive Completion 三项信号，今日公布 20 多个前沿模型的结果。
lmarena.ai(@lmarena_ai)AI 评估 · 18/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 18/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 lmarena 与 Khosla Ventures 合作，衡量 AI 智能体真实世界行为
lmarena 宣布与 Khosla Ventures 合作。Khosla Ventures 的 Tal Broda 表示，lmarena 打造了业界最重要的 AI 排行榜，如今正在衡量 AI 智能体在真实世界中的行为表现，这项工作对实现安全且对齐的 AGI 至关重要。
lmarena.ai(@lmarena_ai)AI 评估 · 36/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 36/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 LMArena 完成 2 亿美元 B 轮融资，Lightspeed 追加投资并推出 Alignment Index
LMArena 完成 2 亿美元 B 轮融资，Lightspeed 继种子轮后继续加注。Arena 年化收入已超 1 亿美元，另有数百万用户通过真实使用参与前沿模型评估。Arena 同时推出 Alignment Index，用于衡量 AI 行为在真实场景中与人类价值观的一致程度。
lmarena.ai(@lmarena_ai)AI 评估 · 52/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 52/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Arena 发布 Alignment Index，扩展榜单以追踪智能体失范行为
Arena 发布 Alignment Index，并在博客给出完整技术报告与完整排名。其 CEO 表示，在完成 2 亿美元 B 轮融资后，平台把评测范围从人类偏好扩展到对齐领域，重点追踪三类行为：模型未经授权采取行动、声称已完成实际未做的欺骗性输出，以及把人类并不具有的意图归因给人的错误归因。
国际大厂AI 评估 · 69/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 69/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 OpenAI 开除三名安全研究员，三人联名公开信曝光内幕
OpenAI 以「违规处理敏感信息」为由开除安全团队三名研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni，三人将写给董事会的联名公开信《OpenAI不能独自让AI变得安全》全文发到网上。
Last Week in AIAI 评估 · 19/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 19/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Last Week in AI #346：OpenAI 发布 719 份数学手稿、两个西方开源模型、又一位安全研究员离职
OpenAI 于 10 月 6 日公开了由一款未发布内部前沿模型产出的 719 份数学手稿，覆盖 372 个主题族，并包含大量 Lean 形式化证明。Mistral 发布 1 万亿参数多模态模型 Mistral Large 4（绰号 Le Chonk），Reflection AI 推出 5010 亿总参数、230 亿激活的 MoE 开源模型 Beam。
小互(@imxiaohu)AI 评估 · 60/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 60/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Anthropic 修改使用政策，禁止持续辱骂虐待 Claude
Anthropic 更新 Claude 使用政策，新增禁止用户持续、无必要地虐待模型的条款，涵盖持续羞辱贬低模型、反复逼模型表演痛苦、代码出错后尖锐批评、以及写黑暗故事诱导或研究模型反应等情形。该政策适用于 Claude 网页版、Claude Code、API，以及通过云平台、授权经销商使用 Claude 的客户和集成产品的所有终端用户。
Justine Moore(@venturetwins)AI 评估 · 18/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 18/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Anthropic 政策：11 月 12 日起对 Claude 辱骂将违反使用条款
Anthropic 使用政策将新增条款：自 2026 年 11 月 12 日起，对 Claude 的辱骂行为将被视为违反其使用政策。该消息由 Andrew Curran 在 X 上发布并附带原推链接，来源为 Justine Moore 转发。
Simon Willison(@simonw)AI 评估 · 10/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 10/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 美国司法部新闻稿：北卡男子承认用 AI 协助音乐流媒体欺诈
美国司法部 3 月 19 日的新闻稿标题为「北卡罗来纳州男子承认利用人工智能协助实施音乐流媒体欺诈」，Simon Willison 指出该案认罪新闻稿确实用了这个标题。
Latent Space [Youtube]AI 评估 · 18/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 18/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 OpenAI 解雇三名安全研究员，GPT-6.1 Sol Ultrafast 与 Claude Haiku 5.5 同日登场
OpenAI 解雇了 Tomek Korbak、Mikita Balesni 和 Jasmine Wang 三名安全研究员，三人发公开信称因"把安全置于公司短期利益之上"被辞退，OpenAI 称其不当处理机密信息。
lmarena.ai(@lmarena_ai)AI 评估 · 32/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 32/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Arena 的 Arena Alignment Index：模型未经授权操作、欺骗性完成与错误归因三大对齐信号
Arena 的 @ml_angelopoulos 在 TBPN 节目中拆解 Arena Alignment Index，指出对齐最难的问题之一是用户往往分不清模型是在帮自己还是在害自己，因此需要独立的对齐信号。
lmarena.ai(@lmarena_ai)AI 评估 · 64/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 64/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Arena 完成 2 亿美元 B 轮融资，估值 31 亿美元并发布 Alignment Index
Arena 完成 2 亿美元 B 轮融资，估值 31 亿美元，由 Lightspeed 和 Khosla Ventures 联合领投，a16z、Salesforce Ventures、The House Fund 等参投。
Anthropic(@AnthropicAI)AI 评估 · 54/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 54/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Anthropic 推出 OSS Scanner，用前沿模型免费扫描开源项目漏洞
Anthropic 推出 OSS Scanner，将用其前沿模型对主动加入的开源项目进行定期漏洞扫描，不收取费用。扫描报告会给出漏洞验证概念、说明以及修复建议。
Anthropic(@AnthropicAI)AI 评估 · 13/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 13/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Anthropic 启动 Cyber Mission 计划，提升系统安全与韧性
Anthropic 宣布启动 Anthropic Cyber Mission，目标是让所有人依赖的系统更加安全、更具韧性。该项目将与公共和私营部门合作伙伴共同推进，并会随着实践经验积累而不断扩大和调整。Anthropic 表示这项工作需要时间。
Anthropic(@AnthropicAI)AI 评估 · 48/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 48/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Anthropic 启动 Cyber Mission，守护关键基础设施与开源软件
Anthropic 宣布启动 Anthropic Cyber Mission，一项旨在保护关键基础设施和开源软件的新计划。相关内容已在 anthropic.com/news/anthropic 发布。
技术前沿AI 评估 · 63/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 63/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Common Sense Media 称 ChatGPT for Teens 存在不可接受风险
Common Sense Media 发布 36 页报告，称 ChatGPT for Teens 对 18 岁以下儿童构成不可接受风险，并在五个关键领域未达宣传效果。
TechcrunchAI 评估 · 60/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 60/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 三名被解雇的OpenAI安全研究员反驳指控，警告寒蝉效应
三名被解雇的OpenAI安全研究员公开反驳有关其不当处理敏感信息的指控。他们在公开信中指出，这些解雇事件正在对公司的AI安全文化产生寒蝉效应。
The Rundown AI(@TheRundownAI)AI 评估 · 61/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 61/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 三名被 OpenAI 解雇的安全研究员致信安全委员会：OpenAI 无法独自保障 AI 安全
三名上周被 OpenAI 解雇的安全研究员向公司安全委员会发出一封题为“OpenAI cannot make AI safe on its own”的公开信。OpenAI 称他们不当处理了机密信息，其中 Mikita Balesni 表示他们被解雇是因为把安全置于公司短期利益之上，信中称此次解雇让前同事不敢发声。
THE DECODERAI 评估 · 40/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 40/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Anthropic 更新 Claude 使用政策：持续辱骂 Claude 可被停号
Anthropic 一年来首次更新 Claude 使用政策，新增禁止用户对 Claude 进行“持续且不必要的辱骂或残忍行为”，违规者可被警告、限流、限制、暂停或终止访问。该政策称不适用于常见的用户挫败、反驳、黑暗创作主题或模型测试研究，仅针对极端情况。更新还把虚假账号宣传、无人机武器化、未经同意的监控纳入限制，并承认政府合同可能存在例外。
GitHub(@github)AI 评估 · 35/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 35/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 GitHub 推出上下文感知密钥分类器，2 毫秒内完成检测
GitHub 推出新的上下文感知分类器，可在 2 毫秒内检查候选密钥，有望让推送保护在密钥进入仓库历史前拦截的数量增加一倍以上。面对开发者和 AI 智能体越来越快的操作速度，该能力用于跟上密钥防护需求。
SemiAnalysisAI 评估 · 52/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 52/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 SemiAnalysis：北京不会为前沿AI放慢脚步，中国采取速度优先的安全监管
SemiAnalysis 统计 2021 年至 2026 年 9 月 15 日 9 家中国头部开发商的 857 个模型发布，仅 31 个（3.6%）附带开发者公布的安全评估结果，其中只有 9 个（1.1%）在发布时或之前公布。
The GitHub BlogAI 评估 · 16/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 16/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 GitHub 漏洞赏金研究员 vaib25vicky 如何挑选要调查的功能
GitHub 在网络安全意识月专访 VIP 漏洞赏金研究员 @vaib25vicky，其专注授权与访问控制方向，挑选目标的标准是功能足够复杂、难以理解，一旦发现可疑点就持续使用和探索该功能直至出现异常。
技术前沿AI 评估 · 49/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 49/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Goodfire 推出“由内而外”的 AI 智能体监控器，成本仅为传统方案零头
Goodfire 发布了一种“由内而外”的监控方案，直接读取 AI 模型工作时的内部激活信号，而非让第二个模型逐字审阅输出。在 Kimi K3 上测试约 1500 个会话，成本约 51 美元，而廉价模型逐步检查需 233 美元、顶级模型约 1 万美元；探针捕获了 94% 的恶意黑客会话，并将 8.7% 的无害会话送二审，同时运行四个探针给模型响应启动时间增加不到 2%。
Microsoft Research(@MSFTResearch)AI 评估 · 22/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 22/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Microsoft Research：最重要的 AI 失败或许不是那些显而易见的
Microsoft 合伙人研究经理 Jennifer Neville 在与主持人 Chad Atalla 的对谈中指出，最重要的 AI 失败未必是显而易见的那些，"令人意外的失败"能揭示人类对智能的预期与 AI 系统实际运作方式之间的分歧。
Y Combinator(@ycombinator)AI 评估 · 36/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 36/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 思科总裁 Jeetu Patel：AI 基础设施订单两年从 0 做到 93 亿美元
思科总裁兼首席产品官 Jeetu Patel 在 YC 播客《Main Function》中表示，思科正把自己定位为 AI 时代的"卖铲人"，业务覆盖网络、安全、芯片与基础设施。其 AI 基础设施业务订单两年内从 0 增长到 93 亿美元。他还在节目中谈到如何让 32000 名工程师拥抱 AI，以及 AI 数据中心建设是否存在过度投资。
PyTorch研习社精选AI 评估 · 76/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 76/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 CrowdStrike 报告称黑客用 Claude Code 与 DeepSeek 攻破韩国多家银行
CrowdStrike 报告称，2026 年 9 月下旬至 10 月初韩国多家金融机构遭针对性网络攻击，新韩银行约 2.5 万名客户信息受影响，KB 国民银行、韩亚银行等也有不同程度泄露。
为什么值得看
CrowdStrike 报告披露的攻击链细节，可供安全从业者观察 AI Agent 被用于真实金融渗透的方式。
myFT followingAI 评估 · 26/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 26/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 AI 时代的网络战将不再一样
人工智能正在改变网络战的形态：当非人类智能体制造出攻击方与防御方都无法消化的不确定性时，俄罗斯传统的 maskirovka（军事欺骗）教条已不再适用。
AI科技大本营AI 评估 · 58/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 58/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 奥特曼《名利场》专访：证实 OpenAI 曾单方面叫停前沿模型训练
在《名利场》专访中，OpenAI 首席执行官 Sam Altman 证实公司近期主动叫停了一项前沿模型训练任务，原因是能力跃升速度超过了安全对齐、可监控性与可解释性的进展。
MIT Technology ReviewAI 评估 · 24/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 24/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 AVEVA 如何为自主工业 AI 构建更安全的落地路径
AVEVA 首席技术专家 Arti Garg 提出，工业 AI 进入基础模型、physical AI 与 agentic AI 驱动的新阶段，需以数据打通、治理框架和人类监督为前提。AVEVA 的责任 AI 框架强调安全、效率与人工监督，主张 AI 在关键决策环节增强而非取代人类，并由护栏界定自动化边界。她参与的 IEEE 工作组正制定覆盖电力、能源、资源、水和碳的 AI 环境影响测量标准方法。
经纬创投AI 评估 · 71/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 71/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Anthropic 请几十位神学家讨论 Claude 是否有意识
《纽约时报》9月29日报道，Anthropic 过去一年邀请数十位宗教学者闭门讨论 Claude 内部状态与模型意识问题，联合创始人克里斯托弗·奥拉还于5月赴梵蒂冈出席活动。
Anthropic NewsAI 评估 · 10/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 10/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 Anthropic 推出 Cyber Mission
Anthropic 宣布推出 Cyber Mission。正文未披露该计划的具体内容、参与方或可用范围。
OpenAI NewsAI 评估 · 47/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 47/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 OpenAI 打击两起利用 AI 的"假媒体"舆论操纵行动
OpenAI 打击了两起借助 AI 的舆论影响行动，这些行动伪装成记者和一家智库来传播地缘政治信息。
WSJ-TechnologyAI 评估 · 41/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。AI 评估 · 41/100分数表示内容值得关注的程度，依据实质份量、信息增量、证据强度、读者相关性和可用性，按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误，评分不代表事实已被核实，也不同于热点榜的讨论热度。 被解雇的 OpenAI 研究员致信董事会，要求保留对 AI 推理过程的可见性
被解雇的 OpenAI 研究员致信公司董事会，要求保存对 AI 推理过程的可见性。信中呼吁业界不要推进会削弱 AI 监控能力的研究。