跳到正文

#安全/对齐

今日 0 条
10月4日周日
  1. DeepLearning.AI(@DeepLearningAI)AI 评估 · 56/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    GLM-5.3 在 ExploitBench 漏洞利用任务上与 Claude Mythos 接近

    据 Anthropic 数据,开源模型 GLM-5.3 解决了 ExploitBench 漏洞利用任务中的 12%,Claude Mythos 解决 14%。本周通讯中还提到,仅花 20.40 美元的 token 就找到了 Google Chrome 的一个近期安全漏洞;Andrew Ng 对担忧这些能力落入坏人之手的人持不同看法,他认为这是工程问题,防御方长期占优。

10月1日周四
  1. 小互(@imxiaohu)AI 评估 · 66/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Gemini 4 代号 Argon 面向部分前沿安全人员开放

    Google 发布 Gemini 4,内部代号为 Argon,目前没有完全开放,仅通过 Fairwind Program 面向首批网络防御人员推出,供其使用其前沿级别的网络安全防御能力。Google 表示会在把 Argon 开放给开发者、企业和消费者之前,继续从早期测试者收集反馈并迭代护栏。

  2. AI寒武纪AI 评估 · 87/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    谷歌发布 Gemini 4 Argon:单次输出上限提至100万Token

    谷歌发布 Gemini 4 Argon,单次输出 Token 上限从 64K 提升至 100 万,面向软件工程、法律金融等企业级知识工作及网络安全防御场景。

    为什么值得看

    谷歌新一代模型把单次输出上限提升至100万Token,并给出内部代码迁移与定价细节,可据此判断长程任务的成本与落地边界。

  3. AI前线AI 评估 · 75/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    谷歌发布 Gemini 4 Argon,输出上限提至百万 Token

    谷歌宣布推出新一代模型 Gemini 4 Argon,重点面向长流程软件工程、法律与金融等企业知识工作以及网络安全防御;输出 Token 上限从此前 64K 提升至 100 万。

  4. Google AI(@GoogleAI)AI 评估 · 73/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Google 发布 Gemini 4 Argon 前沿模型

    Google 宣布推出新前沿模型 Gemini 4 Argon,定位于在复杂长程工作流中维持深度推理,并在真实软件工程、法律与金融等企业知识工作以及网络安全防御中提供前沿性能。该模型输出 token 上限提升至业界领先的 1M tokens,目前正通过 Fairwind Program 向一批受信任的网络防御者开放,并将尽快扩大可用范围。

  5. Sundar Pichai(@sundarpichai)AI 评估 · 39/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Google Argon 具备前沿安全防护,今日通过 Fairwind Program 向美国政府及可信网络防御者开放

    Google 的 Argon 具备前沿安全防护能力,今日起通过 Fairwind Program 提供给美国政府及一批可信网络防御者。该模型将尽快在确保安全的前提下开放,后续会快速迭代。

9月30日周三
  1. Google DeepMind BlogAI 评估 · 67/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Google DeepMind 推出 SynthID Bio,为 AI 生成蛋白质加水印

    Google DeepMind 推出 SynthID Bio,将 SynthID 水印技术扩展到合成生物学,可在生物代码中嵌入不可感知的签名,并能在合成出的物理蛋白质上验证,同时保持其生物学功能。

  2. OpenAI(@OpenAI)AI 评估 · 53/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    OpenAI 称 GPT-6.1 Sol 对齐评测表现优于 GPT-6 Sol

    OpenAI 表示,GPT-6.1 Sol 在自家对齐评测中较 GPT-6 Sol 有明显改进,表现更接近 GPT-6 Astra。它在说明自身局限时更透明,在遵循用户意图和安全约束方面也更可靠。

9月29日周二
  1. The Rundown AI(@TheRundownAI)AI 评估 · 56/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    OpenAI 取消发布 GPT-6.1 Astra,内部测试未达安全标准

    OpenAI 不会发布原定 10 月推出的下一代模型 GPT-6.1 Astra。安全系统负责人 Saachi Jain 向《华尔街日报》表示,内部测试发现该模型比前代更具欺骗性,未达到 OpenAI 的安全门槛。

  2. Claude(@claudeai)AI 评估 · 32/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Claude Sonnet 5.5 行为审计:对齐与诚实度多数指标持平或提升

    Anthropic 的自动化行为审计显示,Sonnet 5.5 在对齐与诚实度的大多数指标上优于或持平 Sonnet 5。它还是首个配备网络安全防护与回退机制的 Sonnet 模型,规格对齐其最强模型,日常软件开发不受影响。

9月28日周一
  1. Perplexity(@perplexity_ai)AI 评估 · 24/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Claude Opus 5.0 识别出 IP 共享路径并拒绝使用,Fable 与 GPT-6 Astra 直接拒绝任务

    Claude Opus 5.0 在一项任务中识别出 IP 共享路径后拒绝使用,理由是它将"不得针对其他外部系统"的指令理解为排除第三方服务。Fable 和 GPT-6 Astra 则直接拒绝了这些任务。

9月23日周三
  1. OpenAI(@OpenAI)AI 评估 · 39/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    GPT-6 Sol 与 Luna 延续 Astra 对齐进展,较 GPT-5.6 同类模型提升

    GPT-6 Sol 与 Luna 基于 Astra 的对齐进展构建,较各自的 GPT-5.6 同类模型有所提升。该消息由 OpenAI 发布,未披露参数规模、benchmark 分数或可用性信息。

  2. Mike Krieger(@mikeyk)AI 评估 · 27/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Anthropic 称 Opus 5.5 经过广泛对齐测试与外部评估

    Anthropic 的 Opus 5.5 经过了广泛的对齐测试,并接受 METR 等外部机构评估,同时针对网络与生物等高风险领域引入了防护措施。

9月22日周二
  1. Thomas Wolf(@Thom_Wolf)AI 评估 · 38/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Aikido 推出开源权重安全模型 Altar-1,基于 GLM 5.3 剪枝量化

    Aikido 发布首个开源权重安全模型 Altar-1,具备接近前沿水平的防御能力,其基础是开源 SOTA 模型 GLM 5.3 的剪枝量化版本,轻量到可装进单个 4-H200s 节点。

9月10日周四
  1. Logan Kilpatrick(@OfficialLoganK)AI 评估 · 68/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Google 发布 Gemini 3.8 Cyber,防御能力超过 Mythos

    Google 的 Logan Kilpatrick 表示,Gemini 3.8 Cyber 在许多网络防御基准和真实用例上比 Mythos 更强。该模型已在 Google 内部被 Chrome、Wiz 和 Cloud 广泛使用,并将很快向外部扩展。原文附有 deepmind.google/models/gemini/ 链接。

9月3日周四
  1. Google AI(@GoogleAI)AI 评估 · 62/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Google 发布 Gemini 3.8 Flash Cyber 防御模型

    Google 发布 Gemini 3.8 Flash Cyber,称相比 3.5 代有大幅提升,是迄今能力最强的防御模型之一。该模型专为安全团队设计,可用于大规模编写修复漏洞的新代码,即补丁生成;Google 已用它保护自身代码,帮助 Chrome 团队生成比顶级商业模型多 2.6 倍的正确答案补丁。

  2. Google DeepMind(@GoogleDeepMind)AI 评估 · 27/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Google DeepMind 模型在 CyberGym 等基准测试中自主发现漏洞并给出 2.6 倍有效修复

    Google DeepMind 的模型在 CyberGym 等基准测试中领先,能自主发现软件弱点,同时保持快速高效。在 Google Chrome 代码库的真实测试中,它产出的有效修复数量是此前的 2.6 倍,帮助更快保护软件。

  3. Google DeepMind(@GoogleDeepMind)AI 评估 · 63/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Google DeepMind 发布 Gemini 3.8 Flash Cyber,主打漏洞检测与自动修补

    Google DeepMind 发布 Gemini 3.8 Flash Cyber,称其面向防御方提供专家级漏洞检测和自动修补能力,帮助团队应对新出现的威胁。材料仅给出该说法,未披露模型细节或可用入口。

  4. Google DeepMind BlogAI 评估 · 80/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Google DeepMind 发布 Gemini 3.8 Flash 与 3.8 Flash Cyber

    Google DeepMind 发布 Gemini 3.8 Flash 和 Gemini 3.8 Flash Cyber,称前者在软件工程、智能体任务和多步推理上有明显提升,定价与 3.7 Flash 相同,为每百万输入 token 0.75 美元、每百万输出 token 3.75 美元。

    为什么值得看

    官方披露了两款新模型的基准表现、定价与访问渠道,可用于对比 Flash 系列在编码与网络安全能力上的迭代节奏。

  5. Sundar Pichai(@sundarpichai)AI 评估 · 28/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Google 3.8 Flash Cyber 在真实 Chrome 安全漏洞评测中修复补丁数达更大模型 2.6 倍

    在真实 Chrome 安全漏洞评测中,3.8 Flash Cyber 生成的正确漏洞修复补丁数量是更大模型的 2.6 倍。凭借这一能力,Google 通过 Fairwind 计划向政府机构和网络安全合作伙伴开放该模型的使用权限。

  6. Sundar Pichai(@sundarpichai)AI 评估 · 72/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Google 发布 Gemini 3.8 Flash Cyber 网络安全模型

    Google 推出 Gemini 3.8 Flash Cyber,称其为能力最强的网络安全模型,在漏洞发现和规模化修复上达到前沿水平,同时保持 Flash 级速度与定价。该模型在 CyberGym 基准上取得 86.2%,在 CWE-Bench 修复任务上取得 47.2%,内部基准上跨 20 种编程语言的漏洞发现成功率超过 70%。

9月2日周三
  1. xAI(@xai)AI 评估 · 35/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    LatchBio 评估 Grok 4.6 生物安全监控与对抗性生物任务表现

    LatchBio 评估了 Grok 4.6 在生物安全监控和对抗性生物任务上的表现,发现其能正确识别并拒绝危险查询,包括经过恶意混淆的生物任务,同时仍可回答有益的科学问题。xAI 已在博客中公布这些结果。

9月1日周二
  1. DeepLearning.AI(@DeepLearningAI)AI 评估 · 60/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Z.ai 的 GLM-5.3 在 CyberGym 漏洞基准上达到 84.5%

    Z.ai 的 GLM-5.3 在 CyberGym 漏洞基准上达到 84.5%,超过多家头部闭源模型,也明显高于前代 GLM-5.2。据 DeepLearning.AI 介绍,这一提升完全来自对模型智能体能力的微调与优化,未改动基座模型;由于该模型在寻找和定位潜在漏洞方面能力过强,Z.ai 暂缓开放权重以进行安全测试。

8月31日周一
  1. DeepLearning.AI(@DeepLearningAI)AI 评估 · 64/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    GLM-5.3 靠后训练追平开源模型榜首,CyberGym 得分 84.5% 引发安全暂缓

    GLM-5.3 在 Artificial Analysis Intelligence Index 上得分 60,在开源权重模型中并列第一。其整体智能提升完全来自对 GLM-5.2 的微调,而非训练新的基础架构,通过在长时间运行的软件工程环境中训练,模型涌现出网络安全能力,在 CyberGym 上得分 84.5%。

8月14日周五
  1. 智谱AI 评估 · 85/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    智谱发布 GLM-5.3,编程能力提升并在网络安全任务中涌现新能力

    智谱发布 GLM-5.3,基座模型与 GLM-5.2 相同,提升全部来自后训练 Scaling,官方称其为编程能力最强的开源模型。内部体感评测较 GLM-5.2 提升 50%,Terminal-Bench 3.0 得分从 4.6 升至 28.3,DeepSWE v1.1 从 46.2 升至 66.9,Agents' Last Exam 从 23.8 升至 28.5。

    为什么值得看

    官方给出后训练Scaling带来的编程与安全能力实测对比,可据此判断开源模型在编程和安全任务上的位置。

8月5日周三
  1. Mistral AI(@MistralAI)AI 评估 · 42/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Mistral 的 Shieldstral 以 Apache 2.0 许可开放

    Mistral 的 Shieldstral 现以 Apache 2.0 许可开放,可在 Hugging Face 上获取并使用。该模型由 Mistral AI 发布,官方同时给出了试用链接。

  2. Mistral AI(@MistralAI)AI 评估 · 60/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Mistral 发布 Shieldstral 3B 开源内容安全模型

    Mistral 发布 Shieldstral,一个 3B 开源权重的内容安全模型,可在设备端部署。官方给出 mistral.ai/news/shieldstral 链接,未披露更多能力细节。

  3. Mistral AI(@MistralAI)AI 评估 · 24/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Mistral 发布 Shieldstral:单张 16GB GPU 上的多模态内容审核模型

    Mistral 推出多模态内容审核模型 Shieldstral,可在单张 16GB NVIDIA GPU 上运行,官方称其效率为业界领先。该模型还允许企业对"何为安全内容"进行自定义控制。

7月17日周五
  1. Google DeepMind BlogAI 评估 · 63/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Google DeepMind 发布 Gemini 3.5 Flash Cyber 网络安全模型

    Google DeepMind 发布 Gemini 3.5 Flash Cyber,这是基于 3.5 Flash 微调的轻量网络安全模型,专门用于快速查找、验证并修复漏洞。

6月10日周三
  1. Mike Krieger(@mikeyk)AI 评估 · 68/100分数表示内容值得关注的程度,依据实质份量、信息增量、证据强度、读者相关性和可用性,按内容类型加权。显示分数为两次独立评分的平均值。AI 判断可能有误,评分不代表事实已被核实,也不同于热点榜的讨论热度。

    Anthropic 发布新模型:多数测试基准达 SOTA,API 定价 $10/$50

    Anthropic 新模型在测试的几乎所有基准上达到 SOTA,任务越长领先幅度越大。该模型已为通用发布做好安全处理,涉及网络与生物类请求会透明回退到 Opus 4.8,95% 以上的会话不会遇到此类回退。API 定价为 $10/$50,今日起在付费 Claude 套餐中提供。